8 月 1 日消息,OpenAI 已经正式为“GPT-5”提交了商标申请,该商标涵盖了以下内容:
人工生成人类语音和文本的软件
将音频数据文件转换为文本
声音和语音识别
基于机器学习的语言和语音处理
根据GPT-5的商标申请文件显示,GPT-5 商标涵盖了 AI 生成语音和文本的功能,还可以将音频文件转换为文本,实现声音和语音识别,并利用机器学习技术进行语言和语音处理。
这可能意味着 GPT-5将支持语音能力,将为用户带来更先进、更高效的语音和文本处理体验,多模态能力进一步增强。
GPT-5什么时候到来?
2023年 3 月发布 GPT-4 时,预计 OpenAI 将在 2023 年 12 月发布下一代模型。 Runway 联合创始人 Siqi Chen 此前表示,我被告知 GPT5 计划于今年 12 月完成训练,Openai 预计它能够实现通用人工智能(AGI)。这意味着我们都会激烈争论它是否真正实现了 AGI。
然而,在 4 月份的 MIT 活动中,当被问及 OpenAI 是否正在训练 GPT-5 时,OpenAI 首席执行官 Sam Altman 表示“我们不会,并且一段时间内不会”。 而在今年 6 月份的采访中,OpenAI 创始人兼 CEO Sam Altman 在被问及什么推出 GPT-5时曾表示,我也很好奇,我们没有答案,我们不会很快有GPT-5,我们必须把安全性作为很重要的一部分。
尽管如此,一些人认为 OpenAI 可能会在 2023 年 10 月之前推出 GPT-4.5,这是 GPT-4 和 GPT-5 之间的中间版本,就像 GPT-3.5 一样。 据说 GPT-4.5 最终将带来多模态功能,即分析图像和文本的能力。 OpenAI 早在 2023 年 3 月的 GPT-4 开发者直播中就已经宣布并演示了 GPT-4 的多模态功能。现在微软已经在 Bing Chat 中发布了 GPT-4 的多模态功能。 看来 GPT-4 的下一个重大更新即将到来。
除此之外,在开始研究 GPT-5 之前,OpenAI 目前在 GPT-4 模型上还有很多工作要做。 目前,GPT-4 的推理时间非常长,而且运行成本相当昂贵。 GPT-4 API 访问仍然很难通过。 此外,OpenAI 最近刚刚开放了对 ChatGPT 插件和代码解释器的访问,这些插件和代码解释器仍处于测试阶段。 互联网浏览功能已从 GPT-4 中删除,因为它显示来自付费网站的内容。
虽然 GPT-4 非常强大,但我想 OpenAI 意识到计算效率是可持续运行模型的关键要素之一。 添加新的特性和功能,您就可以处理更大的基础设施,同时确保所有检查点都正常启动并可靠运行。 因此,大胆猜测一下,如果我们假设政府机构不设置监管障碍,GPT-5 很可能会在 2024 年发布。
预测:GPT-5 特性和功能
减少幻觉
业界热议的是GPT-5将实现AGI(人工智能)。 除此之外,GPT-5 应该可以减少推理时间、提高效率、减少幻觉等等。 让我们从幻觉开始,这是大多数用户不太相信 AI 模型的关键原因之一。
根据 OpenAI 的数据,在所有九个类别的内部对抗性设计的事实评估中,GPT-4 的得分比 GPT-3.5 高 40%。 现在,GPT-4 对不准确和不允许的内容做出响应的可能性降低了 82%。 在各个类别的准确度测试中,它非常接近 80% 的分数。 这是对抗幻觉的巨大飞跃。
现在,预计 OpenAI 将在 GPT-5 中将幻觉减少到 10% 以下,这对于使 LLM 模型值得信赖来说将是巨大的。
计算效率模型
我们已经知道 GPT-4 的运行成本很高(每 1K token 0.03 美元),并且推理时间也更长。 而较旧的 GPT-3.5-turbo 模型比 GPT-4 便宜 15 倍(每 1K token 0.002 美元)。 根据 SemiAnalysis 最近的一份报告,GPT-4 不是一个密集模型,而是基于“专家混合”架构。 这意味着GPT-4针对不同的任务使用16种不同的模型,拥有1.8万亿个参数。
有了如此庞大的基础设施,运行和维护 GPT-4 模型的成本就变得非常昂贵。
事实上,很多新的大模型已经开始追求“小而精”,让大模型拥有尽可能少的参数,而不是更多。
在最近对 Google PaLM 2 模型的解释中,PaLM 2 参数相当小,但性能却很快。
多感官 AI 模型
虽然 GPT-4 已被宣布为多模态 AI 模型,但它仅处理两种类型的数据,即图像和文本。 借助 GPT-5,OpenAI 可能会在实现真正的多模态方面迈出一大步。 它还可以处理文本、音频、图像、视频、深度数据和温度。 它将能够将来自不同模式的数据流互连起来以创建嵌入空间。
长期记忆
随着 GPT-4 的发布,OpenAI 带来了 32K token 的最大上下文长度,每 1K token 的成本为 0.06 美元。 我们在几个月内迅速看到了从标准 4K token 到 32K 的转变。 最近,Anthropic 将其 Claude AI 聊天机器人的上下文窗口从 9K token 增加到了 100K token。 预计 GPT-5 可能会通过更大的上下文长度带来长期记忆支持。
这有助于让人工智能角色和朋友记住你的角色和记忆,并且可以持续多年。 除此之外,您还可以在单个上下文窗口中加载书籍和文本文档库。 由于长期记忆的支持,可能会出现各种新的人工智能应用,而 GPT-5 可以使这成为可能。
你认为 GPT-5 什么时候发布,会带来哪些颠覆性创新?
参考资料:
https://beebom.com/gpt-5/
领取专属 10元无门槛券
私享最新 技术干货