据路透社报道，ChatGPT背后的初创公司OpenAI表示，为了克服人们对人工智能的偏见，它正在开发一款用户可以自定义的聊天机器人。OpenAI在一篇博客中写道:

“人工智能应该是对人类有益的工具，因此每个用户都可以在社会规定的限度内进行定制。这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。将定制化做到极致有可能使我们的技术被恶意使用，并让ChatGPT成为无意识放大人们现有观点的阿谀奉承AI，所以ChatGPT的行为仍然会受到限制在这方面取得适当的平衡将是一个挑战。”因此，用户自定义总会有一些界限。

例如,如果用户请求的内容有关于成人、暴力或包含仇恨的言论，人工审阅者会指示ChatGPT回答“我无法回答”。

如果被问及一个有争议的话题，审稿人会允许ChatGPT回答这个问题，但同时会指出提出者和争议的观点，而不是试图“对这些复杂的话题提出正确的观点”，该公司在其软件指南摘录中解释说。

科技公司如何为自定义ChatGPT设置护栏是人工智能公司重点关注的领域，目前仍在博弈。

微软也表示，它会根据用户的反馈来改进Bing。其内部已经讨论让企业客户在与他们的聊天机器人交互之前显示自定义消息，类似于新的必应，它将显示一个欢迎屏幕，表明可以回答复杂的问题并提供信息。