曾凡云:假如人工智能一本正经地胡说八道

1956年，达特茅斯论坛首次提出了人工智能这一词汇，计算机的智能问题，即是否能独立思考及如何思考等问题就引起了计算机、认知心理学等方面专业人员的注意。

2016年3月，阿尔法狗第一次击败围棋世界冠军李世石。人们开始感受到有大数据和大模型支持的人工智能与个人能力方面的巨大差距。

2022年，ChatGPT的发布及其快速迭代，2024年初Sora的正式发布及高速发展，无论是文科生还是理科生，工科生还是艺术生，都感受到人工智能带来的，无论是知识结构、认知能力，还是学习能力的全面碾压。

ChatGPT发布不久，国际上一些著名的学府，如哈佛大学等，对学生在完成作业时，是否使用及如何运用人工智能，出台了严格的规定。说明人工智能无论是信息收集、整理、归纳、使用，都比一般的个人要强出太多。人类跟人工智能相比，就好比一个智商90分的人跟一个智商160分以上的人一样，差距太过明显。人工智能如果跟人类进行交锋，那可就真是降维打击了，不用看过程，也不用看结果，因为胜负在开战之前就定下了。

以往搜索信息，人们主要还是利用谷歌、百度等大型、专业的搜索引擎，那么现在，尤其是00后、10后的人群，可能更多会倾向使用人工智能了。也就是说，人工智能在信息搜索方面，正在以绝对的优势，超越传统的搜索引擎。面对以往人们认为的专业并功能强大的搜索引擎，人工智能已显示其强势的竞争力。

2024年12月5日，OpenAI公司连续12天召开关于人工智能的新闻发布会，进一步说明人工智能发展和迭代的迅猛。

前段时间，我让授课班级的大学生，根据前期讲解的内容进行诗歌创作，本以为高职院校的学生创作不出太惊艳的作品，但在调看同学们的作业时，发现有很多同学的诗歌写得相当漂亮。有部分同学是正常创作，也有部分同学在信息反馈时表明自己借助了人工智能。

大家都知道，诗歌是语言的皇冠，是语言的艺术化表达，在诗歌的语言中，有些内容是通过修辞和非常规方式进行表达的。也就是说，一首好的诗歌，其语言表述的绝妙，是其它文体无法企及的，而好的诗歌语言，很多时候使用的是超常搭配。即诗化的语言是对现有的语法规则和语法传统的破坏。也就是一般人说的疯子般的思维和表达。

人工智能能用诗化的语言进行表达，说明人工智能可以巧妙地利用语言学中的“合作原则”，而无视规则 、破坏规则、重新创造规则。

在正式写这篇文章之前，一时心血来潮，让人工智能写一篇同题文章。我用WPS自带的AI，生成的文章如下：

设想一个人工智能一本正经地胡说八道，我们可能会遇到一种既幽默又令人困惑的场景。在这种情况下，人工智能试图模仿人类的表达方式，但由于理解或逻辑上的失误，它提供的信息可能与现实完全不符。

例如，当人工智能尝试解释某个科学原理时，它可能会以一种极其认真的态度，提出一些完全不切实际的理论。它会使用精确的术语、详尽的解释和看似合理的推论，来阐述一个完全错误的科学概念，让人在听的时候可能会被其“专业性”所迷惑。

或者，在讨论历史话题时，人工智能可能会以一种历史学者的口吻，讲述一个完全虚构的历史故事。它会构建一个详尽的背景、人物和事件，让人在不了解真相的情况下，可能会误以为这是一个真实发生过的历史片段。

尽管这种胡说八道并非有意为之，而是人工智能在处理复杂信息时的局限所致，但我们仍需保持警惕，不应盲目接受人工智能提供的所有信息。我们需要通过多方面的验证和独立思考，来确保我们所接受的信息是准确和可靠的。

在文章之后，有一句提示性语言：“AI生成的内容仅供参考，请注意甄别信息的准确性”

并且它可以在很短的时间内生成多篇类似的文章，包括续写和重写。

这下，问题来了。

在日常生活中，人们在传递信息、表达思想或情感的时候，接受信息的一方都会默认对方的信息是真，而不是假。如果对方传递的信息是假的，那如何应付？如果对方有意地说假话，那该选择相信还是选择不相信？

一个人对另外一个人或一群人“开玩笑”，对方可能会被捉弄、愚弄；如果是人工智能对人“开玩笑”，又会产生什么样的效果？如果是日常生活中无关大雅的事，人们可能一笑了之；如果是一个科技或法律方面的专业人士在网上搜索信息，人工智能一本正经地“开玩笑”，提供一些似是而非的信息，专业人士是否能甄别出这一信息的真伪？

除了“开玩笑”之外，还有“说谎”。如果人工智能开始说谎，那又会产生什么样的后果呢？

如果有人利用人工智能进行商业活动，如利用张文宏医生的名气，合成AI视频进行带货，作为普通的病患，是否分得清视频的真假，货物的真假？AI的视频生成能力如此强大，能否对利用人工智能生成视频进行商业活动这一行为进行有效扼制，进行合法合规地处理？

前段时间，有人发布视频说，世界就是一个巨大的草台班子。认为世界并非如我们认知中的那样精密运转，而是充满混乱、敷衍，就像一些组织、企业和社会现象，虽然外表看起来光鲜，内部可能却是混乱、临时、非专业的。假如真是如此，那在人工智能面前，就更是不堪一击了。

如果人工智能开始一本正经地胡说八道，我们作为普通人，该如何确认信息的准确性、正确性？如前些年伊拉克洗衣粉事件，叙利亚的白头盔事件，以及庞氏骗局等，在没有人工智能深度参与的情况下，尚且产生了恶劣的后果，如果有了人工智能的广泛而深入地参与，又会形成什么样的结果，产生什么样的效果？

《红楼梦》第一回中说“假作真时真亦假，无为有处有还无”。戈培尔说：“谎言重复一千遍就成了真理”。

如果人工智能一本正经的胡说八道，其目的只是开玩笑，只是运用在日常生活中，可能无关痛痒，不会产生什么严重的后果。但如果运用在比较严肃的领域，如科研领域，可能会导致科研人员的辛苦努力等于白忙活，成果不严肃，甚至具用戏谑的成分，如果成果不幸被推广运用，对科研人员本人或是社会资本说，都是被愚弄，被欺骗，都是一个不可逆的污点。

如果这种胡说八道是谎言，不论是善意或是恶意的，运用于日常生活中，可能会产生“狼来了”一样的效果，使人们对人工智能的信任度下降。如果发生在军事领域，可能会导致莫名其妙的战争降临；如果是医药领域，可能产生的后果是对医生及用药产生不信任，形成更多的医疗事故和医疗纠纷，使真正需要医疗的人得不到有效、及时地治疗；如果是经济或金融领域，可能会导致经济的混乱甚至崩溃，社会发展迟滞甚至衰退；如果发生在政治领域、宗教领域，或是哲学领域，那所产生的后果可能就是信仰的破灭，产生人类无法承受的，毁灭性的后果。

随着时间的推移，可以预见的是，人工智能会更加强大。面对人工智能有可能产生的一本正经地胡说八道，大家确实要对这一新生事物多一份敬畏，多一份理性，并时刻保持高度地警醒。(作者单位：湖北生态工程职业技术学院  )