12月21日,记者在蚂蚁集团顾问技术伦理委员会年会上获悉,蚂蚁集团大模型研发团队投入近20%的人力打造负责任的AI。
20%的技术人员建设科技道德,还与8所大学和机构合作构建科技道德知识体系,打造负责任的AI。
今年2月,蚂蚁集团在公司内部技术道德委员会的基础上正式成立技术道德顾问委员会,由7名外部专家组成,为蚂蚁集团的技术道德建设提供方向性、战略性、针对性的指导。
建议。
蚂蚁集团高层副总裁和科技战略委员会主席倪行军在会上介绍了蚂蚁集团科技伦理建设的最新进展:与大模型能力建设和应用探索同步,蚂蚁集团持续投入人力和算力构建风险评估以及防御机制和能力。
目前,大模型道德建设人员占整体大模型技术人员的比例接近20%,高水平和未来将继续保持高强度投入。
此外,科技伦理委员会将与蚂蚁科技研究院联手,从事前沿伦理问题的研究。
大模型引发新一轮技术创新和产业变革,随之而来的安全问题也不容忽视。
据了解,蚂蚁集团自2016年起积极投入可信人工智能技术研究,围绕“安全、合规、可控、可靠”的目标,蚂蚁集团目前已建立了完善的大型模型安全治理体系。
未来将保持持续高强度的人力资源和计算资源投入,加强大模型安全治理。
图片:专家学者在会上讨论了大型模型对社会环境的影响。
建设负责任的人工智能还需要全社会的共同参与和努力。
今年9月的外滩大会上,蚂蚁集团与多所大学和机构合作,启动了大规模的道德共建计划。
目前已与8所高校和机构合作,共同构建科技伦理知识体系。
蚂蚁集团技术道德顾问委员会六名成员分别是中国科学院院士、清华大学人工智能研究院名誉院长张波;智慧治理专业委员会委员李仁汉、中国社会科学院哲学研究所科技哲学研究室主任段伟文、商学院与金融科技国际联合院长毕胜林浙江大学研究院、浙江大学人工智能研究院、浙江大学上海高等研究院院长吴飞,研究院常务副院长,张晓燕,清华大学五道口金融学院副院长,梁政,副院长清华大学人工智能国际治理研究院院长马长山、华东政法大学数字法治研究院院长、同济大学法学院副院长徐刚、上海政协主席兼秘书长人工智能社会治理协同创新中心,中国政法大学数据法研究所教授、联合国人工智能高级别咨询机构专家小组成员张令瀚等多项特邀嘉宾学术界嘉宾参与讨论。
专家在会上一致认为,大型模型的出现正在对经济社会发展产生积极影响,但也伴随着诸多挑战和风险。
科技道德建设至关重要、任务艰巨。
重视科技道德建设已成为行业共识。
据悉,除蚂蚁集团外,阿里巴巴、百度、商汤科技等国内科技公司也成立了技术伦理治理委员会或人工智能伦理治理委员会。