人工智能的“安全性”

抖音推荐 2025年08月24日 09:03 1 admin

文︱周显

我拍档创立的人工智能公司0xmd.com在日前已完成了首轮融资，现时有3万个用户，本年底在内地、美国、巴西开展业务。如无意外，明年应开始录得利润。

公司成立于一年多前，刚刚是人工智能开始爆发的时刻，由于强手环伺，最有名的当然是ChatGPT，当时人们都取笑我们是傻瓜，有什么可能会战胜这头巨无霸呢？

我们的第一个信念，是在未来世界，除了ChatGPT、Grok、DeepSeek、通义千问这些无所不知的“智能大神”之外，还需要有一些专门的大型语言模型的人工智能，这正如所有的社交媒体均有“会议”的功能，但是“Zoom”这个专门用来开会的软件依然大行其道，有着不可或缺的市场功能。

举一个例子，我是研究中国古代历史的：这从来是我的兴趣，可是这直至近十多年，几乎所有古书都上网了，方才把这研究变成可能。否则，就是手头有上所有的古书，要想翻查资料，也不可能有这么多的时间。

这一年来，我企图用人工智能，帮我找资料，却赫然发现，几乎每个人工智能，不论中美，都有伪造古书的“习惯”，一不小心，不做fact check，就会中伏。我的拍档之一Candice常研究佛经，她也说人工智能常常伪造佛经，又或者是真有其经，但却没有其文。

事实上，人工智能常讲大话，不可靠，已是公开的事实了，尤其是以上的“智能大神”，更加是恶名昭彰。其实这只不过是人类讲大话的延续：人工智能在“穷尽可能性”方面的确是远胜人类，但在“安全性”方面，却有着先天的缺陷，一来是不知怎的，它有“幻觉”（hallucination），会说谎，二来是网上有大量不可靠的资讯，它很难避免吸收到这些虚假资讯。正是电脑时代所说的：Garbage in, garbage out。

我们研发0xmd.com，其中一项工作，就是维护其“安全性”，一是要“喂食”它可靠来源的资讯，二是要它承认不足，没有把握的答案，宁愿说不知，也不要乱吹一通。这正是专门性人工智能的其中一个重点。