首页 > 资讯 > “草莓暗示”等来一份OpenAI的安全报告，GPT

“草莓暗示”等来一份OpenAI的安全报告，GPT

泰然健康网
2024-12-22 11:10

“草莓”图片的谜底，让不少深夜等待的人直呼“被鸽了”。

编辑|易瑾

8月9日，各大AI相关的群聊里，都有OpenAI创始人SamAltman发的一张草莓图片，猜测图片背后是不是暗示OpenAI此前被曝光的“Strawberry”模型要正式浮出水面，也有网友猜测是不是期待已久的GPT-5，尤其是ChatGPT官方推文开始“草莓”队形后，让不少人坚信有新的东西到来。

由于期待值很高，即便隔着13个小时的时差，也丝毫没有阻挡大家熬夜等待的热情。直到8月9日01:11，一份32页的安全报告公布，给大家泼了一盆冷水，毕竟年初放出的Sora视频、去年立下的GPT-5的flag、5月GPT-4o展示的实时语言对话，都吊了大家太久的胃口。

该报告概述了在发布GPT-4o前开展的安全工作，包括外部“红队”合作。所谓“红队”通俗来说就是专业“挑毛病”的人，旨在发现系统漏洞和问题。

报告内坦言，这些测试人员发现了模型在未经授权的语音生成、说话者识别、生成受版权内容等方面存在潜在风险，并且公布了一些失控行为，比如在某些特定提示下，容易弄出些让人心理不安或者不太合适的音效，如色情呻吟、暴力尖叫，还有枪声等。

神秘的“Strawberry”

7月13日，路透社报道OpenAI正在一个代号为“草莓”的项目中研究人工智能模型的新方法，进一步延伸去年11月宣布的Q*项目，不断提高AI推理能力，让其更接近人类的智力。

有知情人士表示，“草莓”涉及一种处理人工智能模型的专门方式，该模型在非常大的数据集上进行预训练。“草莓”包括一种被称为“后训练”（post-training）的OpenAI生成式人工智能模型专门方法，即在对大量生成数据进行“训练”后，对基础模型进行调整，以特定方式提升性能。

当被问及“草莓”及其相关细节时，OpenAI一位发言人在一份声明中表示，“我们希望我们的人工智能模型能像我们一样看到和理解这个世界。不断研究新的人工智能能力是业界的一种普遍做法，大家相信，随着时间的推移，这些系统将在推理方面得到改进。”发言人并未直接回答有关“草莓”的问题。

彼时，特斯拉CEO马斯克在获悉该项目后，在社交媒体上嘲讽称：“我们原本以为AI末日是‘回形针最大化器’（一个关于AI威胁的假设理论），但没想到它实际上是‘永远的草莓地’（一首摇滚歌曲）。”

关于“草莓”项目的猜测、期待在这一个月的时间里，一直没有停止过。尤其是8月9日，SamAltman突然在社交平台发文——我爱花园里的夏天，并配图5颗草莓的图。接着OpenAI研究院Trevor Creech的发文中，配图也含有草莓，这直接导致网友们认为OpenAI在暗示什么。

不可否认的是，一张图让不少人化身“福尔摩斯”，有人发现5颗草莓其中一颗还未成熟，接着就去搜索草莓的生长周期，发现开花之后需要4-6周，由此判断GPT-5可能在未来4-6周后发布。

另外，著名爆料人Jimmy apples发帖称发现了LYSMS竞技场中，闪现一个新模型——anonymous-chatbot。他表示经过一些粗略和有限的个人测试，“我没有看到任何推理方面的改进，但我看到了数学方面的一些改进。

anonymous-chatbot属于谁？这个问题很快被抛出来，也很快和OpenAI联系在了一起。因为在Jimmy apples晒出的图片中，anonymous-chatbot称是基于OpenAi的GPT-4的架构的模型。再加上Sam Altman和Trevor Creech的草莓配图，似乎谜底就被揭开了。

观察到安全问题、会不受控制模仿人类声音

最后的结果，确实是让大家再一次失望了。OpenAI在凌晨发布的是GPT-4o的系统卡，据介绍是一份“端到端的安全评估”。

这份32页的PPT，首先丢给了腾讯元宝，因为据介绍在最新版本的腾讯元宝中，当用户上传论文、财报、研报等专业内容的URL 链接或文件，除获得文字概括总结外，还可进入深度阅读模式，对长文进行精读。该模式可提供核心内容概览及模块化解析，生成总结性图表，辅助用户快速理解关键信息。

腾讯元宝提炼出了文档中6个主要内容，并总结这份文档详细介绍了GPT-4o模型的能力、局限性和安全评估，展示了其在多模态处理方面的显著进步以及在多个领域的潜在应用和社会影响。

具体看这篇文档，主要是记录了对GPT-4o模型优势和风险的调查，其中包含了GPT-4o的一些“特殊癖好”。比如在某些罕见情况下，尤其是当人们在高背景噪音环境中与GPT-4o对话时，如行驶中的汽车内，GPT-4o会“模仿用户的语音”。OpenAI表示，这可能是因为模型难以理解畸形的语音。

GPT-4o还倾向于在特定方式的提示下，生成令人不安或不适当的“非言语声音”和音效，比如色情呻吟、暴力尖叫和枪声。OpenAI表示，有证据表明该模型通常会拒绝生成音效的请求，但承认确实有一些请求通过了。

此外，OpenAI还察觉到，如果没有设置好过滤器，GPT-4 就会容易抄袭一些知名艺术家的风格、语调或者音色。“考虑到GPT-4o可能出现的怪癖，我们更新了某些基于文本的过滤器来处理音频对话。同时，我们还构建了过滤器，用来检测和阻止输出音频。”OpenAI在报告中写道，“一如既往地，我们训练GPT-4o拒绝对版权内容（包括音频）的请求。”

在版权问题上，这不是OpenAI最近第一次提，前不久演示的SearchGPT，不仅在演示视频中单独展示鼠标指向AI总结中的参考链接，还在官宣博文中强调可信来源的重要性和信息源需要得到保护。

7月31日，OpenAI宣布向部分ChatGPT Plus用户推出高级语音模式，并计划于秋季向所有ChatGPT Plus用户开放。这份报告出来后，关心内容的同时，不少人也在催促什么时候所有用户都能使用上GPT-4o的语言功能。

综合自OpenAI、IT之家、量子位等。