一、问题的提出：人工智能立法的范式转型

随着信息技术和生物科技的迭代发展，“第四次工业革命”正逐步成为一个被广泛接受的事实。其中，信息技术经由

“世界互联网化”和“大数据”两个阶段的发展而开始转向以机器学习和算法等技术为基础的“人工智能时代”。2016 年 3 月， 智能机器人 AlphaGo 以 4∶ 1 的战绩击败世界围棋冠军李世石，这预示着“人工智能进入突破阶段”，2016 年成为人工智能的元年〔1〕。自此以后，人工智能（Artificial Intelligence，AI）的讨论总是笼罩着一种潜在的忧虑，霍金、比尔·盖

茨等人便表达了这样的不安。中国法学界关于人工智能法律责任问题的讨论更是直接性地表达出“规制”意味，而对于其中较为棘手的人工智能体的法律主体地位问题也是要么忙于肯定要么忙于否定。何以如此？其原因就在于与一般的科技实践引发的风险不同，人工智能这一事物本身便具有特殊性，主要表现在自身潜在拥有的“认识能力”和“控制能力”使其有可能会超越科技与人之间传统的“手段—目的”或“客体—主体”关系框架。这即是说，在人工智能时代，作为地球主宰的“人” 可能会沦为人工智能的“对象”，学界当前所讨论的“大数据杀熟”以及“算法权力”等议题便是一个重要的表征。无论是对人们的外在行为还是内在尊严，这都是我们无法忍受的。更根本的是，如果这一挑战成真的话，那问题就不再是“智能机器人能否具有法律主体地位”等问题，而是“我们是不是人”以及“我们凭什么是人”〔2〕。当代哲学前沿关于神经生物学、意向性以及自由意志等问题的讨论便涉及对诸如此类问题的尝试性解答〔3〕。此类评论并非危言耸听，雷·库兹韦尔就认为，在 2045 年前后会出现人工智能的一个“奇点”，而跨过这个点人工智能就将会超越人类的智慧〔4〕。即便“奇点”何时来临尚无共识，但人工智能时代的步步逼近却是一个不争的事实，而随着“强人工智能”或“智慧人工智能”的到来和挑战， 如何通过法律手段更好地应对这一潜在的“实质性危机”，这是我们当前应予进行讨论的课题。

法律的功能在于“以各种各样的方式，导引、计划和控制人们的生活”〔5〕，而“立法”则是处理人工智能及其与人之间关系的首要环节。由于人工智能可能引发的实质性挑战与固有科技立法思维之间存在較大的出入，既有范式便面临着转型的现实需要。现行“科技法”，包括《中华人民共和国科学技术进步法》以及《中华人民共和国促进科技成果转化法》在内的诸法律，都受到了近代以来科技立法中“技术—经济”范式的影响。该立法范式的一个主要表现在于，以鼓励、刺激科技的经济实用价值为目标，而对科技引发的社会问题则只是附带性地提及〔6〕。更明确地讲，它比较侧重科技经济主义这一维度，旗帜鲜明地以效率为导向。这不仅轻视了人工智能科技可能引发的前所未有的“价值关切”，更导致了技术的自主化滋生，即技术在这种自主性结构中为所欲为，进而发展为失去人的控制的主体化僭越〔6〕。这种后果恰恰是法律试图极力避免的情形。对于立法者而言，这都内在地要求他们进行立法西南交通大学学报（社会科学版）第23 卷第 2 期王荣余在“功利”与“道义”之间：中国人工智能立法的科学性探析范式的转型，即转向“在功利与道义之间”的新范式，这是为保障人工智能立法科学性而对立法者提出的新要求。

2017 年 7 月，国务院颁布的《新一代人工智能发展规划》（以下简称《规划》）提出了“三步走”的战略布局，明确在部分领域初步建成人工智能伦理规范和政策法规的第一步战略要求。在“从规划到立法”的这一时期内，寻求立法的科学性继而进行科学立法将是立法者的关键任务，而如何保障立法的科学性更是关键中的关键。然而，当前关于人工智能立法的既有讨论主要集中于部门法领域，但由于人工智能所引发之挑战的根本性和实质性，部门法学者基于法律教义学所提供的说明性理论实际上就将变得有限〔7〕。这意味着，关于人工智能立法科学性的一般性讨论必须转入一般法理学层面来进行，并以此为基础提供一种规范性路径，也正是在这个意义上，我们需要借助规范伦理学的资源，尤其是功利论和道义论。具体而言，就中国的具体语境来看，人工智能领域的立法遵从什么样的原则来体现科学性？立法活动如何合理地处理人工智能所涉及的伦理风险与经济发展问题，以及应如何展现道义论约束和功利论刺激？这是本文试图通过新立法范式进行回答并试图从哲学和法学层面展开论证的问题，但在此之前，本文将首先考察一个在当下学界讨论不充分的论题，并以立法思维进行重新审视。