您的位置:首页 > 教育 >

OpenAI:使用者必须年满 18 岁或经过父母同意并年满 13 岁


(资料图)

多知网 4 月 7 日消息,近日,Open AI 在其官网发布了《Our approach to AI safety》,其中提到,Open AI 会重点保护儿童,要求使用者必须年满 18 岁或经过父母同意并年满 13 岁同时不允许技术用于生成令人憎恶、骚扰、暴力或成人内容等,并表示会尊重隐私,从训练数据集中删除个人信息,还会改善事实准确性,降低 AI 幻觉的可能性。

Open AI 表示,目前除了默认的安全护栏外,还与非营利组织 Khan Academy 等开发人员合作。据了解,该学院构建了一个人工智能辅助系统,既可以作为学生的虚拟导师,也可以作为教师的课堂助理,为他们的用例量身定制安全缓解措施。

Open AI 还强调,不会使用数据来销售服务、做广告或建立人们的档案——会通过使用数据使大语言模型对人们更有帮助。

此外,在提高大型语言模型事实准确性上,OpenAI 取得了进展。通过利用被标记为不正确的 ChatGPT 输出的用户反馈作为主要数据来源,我们提高了 GPT-4 的事实准确性。相比于 GPT-3.5,GPT-4 更可能产生符合事实的内容,提高幅度达到 40%。当用户注册使用该工具时,会做到尽可能透明,以避免 ChatGPT 可能给出错误回复。

此前,意大利宣布禁用 chatGPT,因为 Open AI 违反了意大利相关隐私规则和数据保护法,德国、法国、爱尔兰、西班牙等国的监管部门都表示正在密切关注 ChatGPT 的安全问题。

标签:

相关阅读