李京烈教授为我院师生作“生成式AI犯罪与刑事责任归属方案研究”讲座

发布者:钱荟竹发布时间:2026-06-25浏览次数:10

625上午,东南大学第一百四十五期“温锐法学大讲堂”之法学名家论坛暨第二十五期法学院二十周年院庆系列讲座在新文科楼310会议室举行。成均馆大学法学专门大学院教授李京烈应邀以“生成式AI犯罪与刑事责任归属方案研究”为题作专题讲座。成均馆大学科学技术学科长金奇范教授该校法学院科学技术学科师生一到访,该校张雅雁博士、满鑫博士、陈贝贝硕士担任翻译人。本次讲座由欧阳本祺教授主持,李川教授、梁云宝教授、杨志琼副教授担任与谈嘉宾,我院众多师生到场参与交流。

李京烈教授首先从刑法以人为中心的基本立场出发,指出人工智能缺乏自由意志和目的性控制,无法成为刑法上的行为主体,其“自主性”仅是既定目标和算法框架内的准自主性。欧盟《人工智能法》已明确否决赋予AI“电子人格”的提议,转而将AI视为“产品”或“服务”,强调人为监督和人类最终责任。因此,AI的刑事法律地位应界定为“高度智能的工具”,其带来的不可预测性并不免除人类行为者的责任,反而成为责任认定的关键变量。

在责任归属层面,李京烈重点分析了使用者故意与开发者过失。针对使用者是否成立未必故意,他反驳了“黑箱特性导致无法认定意识”的观点,指出未必故意的本质是“有意识地承担风险”而非“预测结果”,AI的不可预测性恰恰可成为用户明知风险仍实施犯罪的判断依据。他提出细化认定的四项标准:用户技术认知水平、开发者事先告知的风险、行为目的的反社会性、以及是否对输出结果进行核实。关于开发者责任,他强调欧盟AI法为高风险AI施加的风险管理、数据治理和人工监督等义务,已构成刑法上“业务注意义务”的明确依据,违反该义务造成严重后果可追究业务上过失致死伤罪。

李京烈还批判了现有责任归属模型的局限:间接正犯模型混淆了“意志控制”与实际操作,自然概率结果模型未明确注意义务具体内容,直接责任模型与现代刑法体系相冲突。他认为可行方案是回归传统刑法原则,结合AI工具特性,对使用者故意和开发者过失进行具体审查。在立法层面,他介绍了韩国《人工智能基本法》与欧盟法的异同,并提出针对深度语音诈骗和AI扰乱金融市场行为的法律修正案,以明确AI工具性并强化人类行为者责任。

与谈环节,李川教授指出中国刑法正转向风险预防立场,注意义务已从直接操控过失延伸至监督与接管过失,当前司法实践偏重追究使用者责任,服务提供者责任因中立帮助行为理论和罪名缺失而难以落实。梁云宝教授提出无人驾驶领域L3级以上“驾驶位无人”情形下接管义务设定困难,传统产品责任不足以评价公共安全风险,并就家用与规模化自动驾驶的监管差异与李京烈教授交换了看法。杨志琼副教授则就韩国如何整合多元AI应用领域的注意义务体系以确定开发者刑事责任进行提问。

互动交流环节,现场师生还就AI犯罪典型案例、智能体AI与具身AI带来的间接化与规模化犯罪、AI红队测试免责边界,以及AI系统受黑客入侵时的电子数据取证等问题与李京烈、金奇范两位教授进行了深入探讨。两位教授回应指出,AI已用于金融诈骗、伪证、跨国犯罪等领域,智能体AI使犯罪链条复杂化,现有间接正犯理论面临挑战,数字取证和主观意图证明也是未来重点课题。

最后,欧阳本祺教授对李京烈教授的精彩分享致以诚挚感谢。表示,李京烈教授从“人类行为者”视角出发,系统论证了生成式AI犯罪的刑事责任归属路径,提出的未必故意认定标准、业务过失拓展及具体修法建议,兼具理论深度与实践价值,对人工智能时代的刑法应对具有重要启发。讲座结束后,欧阳本祺教授与李京烈教授金奇范教授互赠纪念礼物合影留念。讲座在热烈掌声中圆满落幕。


文字:张涵

摄影:王中阳