【课程简介】

本课程聚焦AI的现实危害与伦理困境，强调负责任地发展与使用技术。课程首先深入解析人工智能面临的两大类挑战：一是“恶意使用问题”，如AI诈骗、生成虚假信息、学术作弊等主动滥用行为；二是复杂的“伦理挑战”，包括个人隐私侵犯、算法歧视、信息茧房、价值观对齐困境、法律追责与生成内容版权归属等深层问题。随后，课程系统介绍了保障AI不偏离预设社会角色的“三管齐下”措施：通过国内外法律法规（如中国《深度合成管理规定》、欧盟《人工智能法案》）划定红线；通过技术研究（如AI对齐、分布偏移学习）确保系统可控可信；通过行政管理与伦理规范（如科技伦理审查、风险分级监管）引导健康发展。最后，课程回归个体层面，倡导积极学习并负责任地掌握AI技术，以提升个人能力与竞争力。

【专家简介】

乔媛媛 北京邮电大学

美国麻省理工学院访问学者，教育部强国行专项行动团队负责人。在复杂数据分析领域深耕多年，科研成果已在各省市得到应用，获得省部级科学技术进步奖2项。获得全国高校人工智能教育大会优秀案例特等奖，全国电信类高校教师智慧教学案例一等奖，北京青教赛二等奖、最受学生欢迎奖等。主编《人工智能导论（文科版）》《人工智能导论（通识版）》中英双语数字教材，青少年科普教材《人工智能核心-神经网络》等。