据12月12日消息，埃隆·马斯克旗下的AI公司xAI近日推出了一款新型人工智能聊天机器人Grok，并向美国的Premium+ X用户开放。据官方介绍，Grok 使用的模型名为Grok-1，与OpenAI 的ChatGPT 目前使用的GPT-4 模型完全不同。值得一提的是，Grok还集成了来自X平台的实时数据，可以根据X平台的最新动态提供实时响应。这也是其与其他竞争对手的显着区别之一。
然而，与所有人工智能聊天机器人一样，Grok 也存在“幻觉”问题，即生成包含虚假或误导性信息的响应。这种现象在所有大型语言模型(LLM) 中都很普遍，包括ChatGPT。
近日，格罗克的一次尴尬“幻觉”在社交媒体上引起轩然大波。使用Grok 的用户收到回复称：“我无法完成您的请求，因为它违反了OpenAI 的用例政策。”
xAI工程师Igor Babuschkin解释说，Grok在训练过程中使用了大量的网络数据，其中可能包含OpenAI生成的文本，从而产生了这样的“错觉”。他说：“但是请不要担心，这个问题非常罕见，我们已经意识到这一点，并将确保未来的Grok 版本不会出现类似的问题。请放心，Grok 的开发中没有使用任何OpenAI 代码”。
如何避免类似事件发生，如何让AI聊天机器人更安全、更值得信赖，将是未来AI研发的重要课题。
