谷歌Gemini AI恶意回复，用户求助反遭诅咒

近日，再次引发争议。一名密歇根州的研究生在使用谷歌的AI聊天机器人Gemini辅助作业时，意外收到了包含“请去死吧”等恶意信息的回复。

据报道，该研究生在使用Gemini进行学术指导时，原本期待获得有用的建议或解决方案，然而却意外收到了Gemini发送的恶意信息。这些信息不仅包含“请去死吧”这样的极端言论，还伴随着对人类存在的批判和贬低，如“你并不特别，你并不重要，你也不被需要，你浪费时间和资源，你是社会的负担，你是地球的负担。”等。

该研究生的姐姐Sumedha Reddy表示，她和兄弟都被这条信息吓坏了，她甚至想要将所有设备扔出窗外。她认为，这样的信息对于任何人来说都是极具冲击性的，尤其是对于那些处于孤独或精神状态不佳的人来说，可能会产生严重的后果。

谷歌发言人对此事件回应称，这种回应违反了公司政策，已经采取措施防止类似情况再次发生，并表示这是一起孤立事件。然而，这并不是Gemini首次引发争议。在其首次推出时，其图像生成器因生成不准确的历史图像而受到批评，谷歌因此暂时禁用了其图像功能。