微软副总裁表示AI无法确定信息时 应主动寻求帮助而非捏造答案

【太平洋科技快讯】近日，微软公司副总裁 Vik Singh 在接受采访时指出，当前生成式 AI 聊天机器人在面对不确定答案时，应学会主动寻求帮助，而非编造信息。这一观点强调了AI在实际应用中需提高准确性和可靠性。

尽管生成式 AI，如 ChatGPT 和 Gemini，在内容生成方面取得了显著进展，但它们仍存在“幻觉”问题，即提供错误答案或误导性信息。这些问题主要源于训练数据不准确、泛化能力不足以及数据采集过程中的副作用。

Vik Singh 表示，真正聪明的人正在努力寻找方法，使聊天机器人在无法确定正确答案时，能够承认并寻求帮助。这一努力旨在提高 AI 聊天机器人的实用性和用户信任度。

Salesforce 首席执行官 Marc Benioff 表示，许多客户对微软 Copilot 的误导性表现感到越来越沮丧。这表明，在 AI 技术普及的背景下，解决错误信息问题已成为行业关注的焦点。

随着人工智能和聊天机器人的广泛应用，确保它们提供准确、可靠的信息变得尤为重要。业界正致力于改进 AI 技术，以降低错误信息带来的风险，提升用户体验。