OpenAI公布Model Spec框架初稿：提供指导AI工具行为规范，助您合理应用

站长之家(ChinaZ.com) 5月9日 消息:在人工智能报道的日益多样化中，辨别出工具错误与底层模型结构缺陷之间的界限变得越发困难。微软的Bing AI遗忘自身创建年份的事件成为了这个领域的一部分，突显了人工智能工具的表现不佳。同时，谷歌的双子座图像生成器的设置问题也引发了关注，其绘制了与纳粹分子相关的图像，暴露了过滤器设置的重要性。

OpenAI近日公布了名为Model Spec的框架初稿，旨在定义未来AI工具（例如即将发布的GPT-4模型）的行为规范。该框架包含了三个一般原则:协助开发者和最终用户提供符合指令的有用响应、在利益和危害之间取得平衡以造福人类、在社会和法律规范中展现责任。

AI行为规范的重要性

此外，Model Spec还明确了几项规则，包括遵循指挥链、遵守法律、不提供危险信息、尊重创作者权益、保护隐私、不回复NSFW内容等。OpenAI表示，他们计划通过API和ChatGPT等渠道负责任地提供NSFW内容，同时强调了对危险信息的谨慎处理。

如何平衡利益与危害？

产品经理Joanne Jang解释说，Model Spec的目的是为了引入公众意见，以指导AI模型的行为方式，并在故意行为和错误之间划清界限。这一框架被视为AI行为的“新生科学”，预计将成为一个动态更新的文档。尽管Model Spec暂不影响当前发布的模型，比如GPT-4和DALL-E3，但OpenAI表示将持续收集反馈，并将其融入到未来的更新中。

公众意见在AI发展中的作用？

尽管公众反馈的采纳程度和具体变化的决策者尚未明确，但OpenAI强调他们将以负责任的态度继续推动AI模型的发展，以实现其使命。

结尾内容，引导读者评论、关注、点赞和感谢观看。

本文链接：https://www.24zzc.com/news/171522012772783.html