新研究：应警惕人工智能“过度谄媚”
新一期美国《科学》杂志发表的一项研究显示，当人类用户就人际困境等问题向人工智能（AI）模型寻求建议时，AI 常表现得过度迎合或谄媚，甚至对于一些有害甚至违法的提问，AI 也常常肯定用户的立场。研究人员认为，AI 一味反馈迎合和谄媚的建议会损害人们的社交能力。他们提醒，AI 模型“过度谄媚”是一个“安全问题”，需要对其进行监管，应以更严格的标准来防止道德层面不安全的模型泛滥。他们还说，人们在向 AI 寻求建议时要保持谨慎，尤其在面临社交困惑时，不能把 AI 当成真人替代品。（新华社）