OpenAI正在开发升级版ChatGPT将支持用户自定义

2月17日 消息:据路透社报道，ChatGPT背后的初创公司OpenAI表示，其正在开发聊天机器人ChatGPT的升级版，让用户可以自定义设置，以解决人们对人工智能偏见的担忧。

这家总部位于旧金山的初创公司表示，它一直在努力减轻政治和其他偏见，但也希望容纳更多不同的观点，微软公司已为其最新技术提供资金和支持。

OpenAI在一篇博客中写道:“人工智能应该是对人类有益的工具，因此每个用户都可以在社会规定的限度内进行定制。这将意味着允许其他人可能强烈反对的系统输出。将定制化做到极致有可能使我们的技术被恶意使用，并让ChatGPT成为无意识放大人们现有观点的阿谀奉承AI，所以ChatGPT的行为仍然会受到限制在这方面取得适当的平衡将是一个挑战。”因此，用户自定义总会有一些界限。

例如，如果用户请求的内容有关于成人、暴力或包含仇恨的言论，人工审阅者会指示ChatGPT回答“我无法回答”。

这家初创公司发布消息同时，一些媒体机构指出，由 OpenAI 提供支持的微软新 Bing 搜索引擎的答案具有潜在危险，而且该技术可能还没有准备好迎接黄金时段。

科技公司如何为自定义ChatGPT设置护栏是人工智能公司重点关注的领域，目前仍在博弈。微软也表示，它会根据用户的反馈来改进Bing。