富士通推出两项 AI 信任技术保护对话型 AI 免受幻觉和对抗性攻击

据站长之家报道，富士通于今日宣布推出两项新的人工智能（AI）信任技术，旨在提高对话型人工智能模型的可靠性，从而增强其在各种用例中的安全性。第一项技术旨在高度精确地检测对话型人工智能回复中的幻觉。第二项技术旨在检测对话型人工智能回复中植入的网络钓鱼网址。

这两项新技术将纳入富士通的对话型人工智能核心引擎中，通过“富士通 Kozuchi（代号）- 富士通 AI 平台”提供给用户，使用户可以访问广泛的强大人工智能和机器学习技术。检测对话型人工智能中的幻觉的技术将于 9 月 28 日起提供给日本用户，而检测对话型人工智能回复中的网络钓鱼网址的技术将于 2023 年 10 月起提供。这两项新技术将通过 Kozuchi 提供给企业用户作为演示环境，并通过专用门户网站提供给个人用户。富士通计划将这两项新技术未来推广到全球市场。