OpenAI公布Model Spec框架初稿，引领AI工具行为规范

理想主义者 05-09 165

默认

摘要： 新智元导读大模型混战究竟谁才是实力选手清华对国内外个做了最全面的综合能力测评其中是当之无愧的王牌在国内文心已然闯入了第一梯队月日消息在人工智能报道的日益...

【新智元导读】大模型混战究竟谁才是实力选手?清华对国内外14个LLM做了最全面的综合能力测评，其中GPT-4、Cluade3是当之无愧的王牌在国内GLM-4、文心4.0已然闯入了第一梯队

5月9日消息:在人工智能报道的日益多样化中，辨别出工具错误与底层模型结构缺陷之间的界限变得越发困难。微软的Bing AI遗忘自身创建年份的事件成为了这个领域的一部分，突显了人工智能工具的表现不佳。同时，谷歌的双子座图像生成器的设置问题也引发了关注，其绘制了与纳粹分子相关的图像，暴露了过滤器设置的重要性。

近日公布了名为Model Spec的框架初稿，旨在定义未来AI工具（例如即将发布的GPT-4模型）的行为规范。该框架包含了三个一般原则:协助开发者和最终用户提供符合指令的有用响应、在利益和危害之间取得平衡以造福人类、在社会和法律规范中展现责任。

此外，Model Spec还明确了几项规则，包括遵循指挥链、遵守法律、不提供危险信息、尊重创作者权益、保护隐私、不回复NSFW内容等。OpenAI表示，他们计划通过API和ChatGPT等渠道负责任地提供NSFW内容，同时强调了对危险信息的谨慎处理。

产品经理Joanne Jang解释说，Model Spec的目的是为了引入公众意见，以指导AI模型的行为方式，并在故意行为和错误之间划清界限。这一框架被视为AI行为的“新生科学”，预计将成为一个动态更新的文档。尽管Model Spec暂不影响当前发布的模型，比如GPT-4和DALL-E3，但OpenAI表示将持续收集反馈，并将其融入到未来的更新中。