半岛综合体育11月5日至6日，2024“国是论坛”在京举办。国务院参事BOB·半岛、中国工程院院士、中国人工智能学会理事长戴琼海在接受人民网记者采访时表示，人工智能技术在开放通用场景中仍存在一些安全风险。规避技术安全隐忧，才能促进人工智能持续发展BOB·半岛。
“人工智能技术发展至今仍有多重安全风险值得注意，例如黑箱数据训练安全风险，黑箱依靠数据训练来支撑大模型对未来的推算BOB·半岛，如果有人偷换数据，而后训练出来的人工智能模型可能成为敌人。”戴琼海举例说，“又如医疗数据安全风险，如果病例数据标注过程中存在错误，即便大部分数据判断正确，但涉及标注错误的区域时BOB·半岛，人工智能的判断依然会给人类带来灾难。”
此外，开放场景中的人工智能仍存在问题。“好比模式固化的自动驾驶无法规避所有事故，分析数据的系统无法结合自我认知生成结果。”戴琼海表示，“因此，进行颠覆性创新，从技术上要做到具有可解释性的人工智能模型或算法；要规避安全技术隐忧，保证数据的安全是人工智能最主要的安全；尽量开放场景，切忌降低维度，可以先将人工智能放到封闭场景BOB·半岛，逐渐扩圈，最后使场景变为完全开放式。”（实习生王一惟对本文亦有贡献）
人民日报社概况关于人民网报社招聘招聘英才广告服务合作加盟供稿服务数据服务网站声明网站律师信息保护联系我们
人 民 网 股 份 有 限 公 司 版 权 所 有 ，未 经 书 面 授 权 禁 止 使 用
