马斯克推出全新AI聊天机器人Grok 存在“幻觉”问题

  近日，埃隆•马斯克旗下的AI公司xAI推出了一款全新的人工智能聊天机器人Grok，并面向美国地区的Premium+ X用户开放。据官方介绍，Grok采用了名为Grok-1的模型，与目前OpenAI旗下ChatGPT所使用的GPT-4模型完全不同。值得一提的是，Grok还整合了X平台的实时数据，可以依据X平台的最新动态提供实时回应，这也是其与其他竞争对手的显著差异之一。

  然而，就像所有AI聊天机器人一样，Grok也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都都会存在，包括ChatGPT。

  最近，在社会化媒体上出现了一个尴尬的Grok“幻觉”。有用户在使用Grok时收到回应称：“我没办法完成您的请求，因为它违反了OpenAI的用例政策。”xAI工程师Igor Babuschkin解释说，在训练过程中使用了大量网络数据时，很可能其中包含由OpenAI生成的文本，导致出现了这样的“幻觉”。

  不过，请放心，“这样的一个问题非常罕见”，Babuschkin说，“我们已意识到了它，并将确保未来的Grok版本不可能会出现类似的问题。请放心，Grok的开发没用任何OpenAI代码。”

  如何避免类似事件的发生以及如何让AI聊天机器人更安全、更可信将是未来AI研发的重要课题。返回搜狐，查看更加多