清华大学新闻与传播学院;
信息伦理学家提出了分布式伦理的理论设想,认为在人-机混合同构的算法社会中,伦理责任难以落位于单一个(群)体,而是分散于多主体之间,呈现出一种分摊状态。本文基于这一设想,对22位算法工程师开展访谈,旨在从技术人员的视角出发,获悉他们在生产、制造技术系统的过程中如何理解并践行其所担负的伦理责任,又受到何种关系的约束,并进一步解析分布式的道德责任制度为何未能成为化解技术系统伦理风险的“良方”。研究发现,距离技术最近、最了解技术的工程师群体清晰地捕捉到了社会对于算法伦理失范的担忧,并将算法系统的伦理责任拆解至技术制品生命周期的多个相关行动者,包括技术系统、组织内部的其他从业人员、用户等。这种非单一归因、由多方共同组成的道德责任理念呼应了分布式伦理的架构设想。然而,当分布式的道德责任设想成为工业界的伦理实践现实,却并未铸就“技术向善”的共同体实践;相反,工程师群体在技术成因、劳动关系、社会结构与制度的共同作用下合理化了自身在算法劳动过程中的“去伦理化”。
309 | 0 | 21 |
下载次数 | 被引频次 | 阅读次数 |
(1) Oxford University Press:Oxford Learner’s Dictionary of Academic English,retrieved from:https://www.oxfordlearnersdictionaries.com/definition/academic/ethic?q=ethics.
(2)Campolo A.,Sanfilippo M.R.,Whittaker M.,et al.,AI now 2017 report,New York:AI Now Institute at New York University,2017;Whittaker M.,Crawford K.,Dobbe R.,et al.AI now report 2018,New York:AI Now Institute at New York University,2018.
(3) Nissenbaum H..,“Computing and Accountability,Communications of the Association for Computing Machinery”,vol.37,no.1,1994,pp.72-80.
(4) Floridi L.,The Ethics of Information Technologies,London:Routledge,2020,p.63-79.
(5) Coeckelbergh M.,“Virtual moral agency,virtual moral responsibility:on the moral significance of the appearance,perception,and performance of artificial agents”,AI&society,vol.24,no.2,2009,pp.181-189;Wallach W.&Allen C.,Moral Machines:Teaching Robots Right From Wrong,New York:Oxford University Press,2008.
(6)Friedman B.,“Moral Responsibility and Computer Technology,Institute of Education”,1990,retrieved from:https://files.eric.ed.gov/fulltext/ED321737.pdf.
(7) Jonas H.,The Imperative of Responsibility:In Search Of An Ethics For the Technological Age,Chicago:University of Chicago Press,1984.
(8) Seaver N.“Algorithms as culture:Some tactics for the ethnography of algorithmic systems”,Big Data&Society,vol.4,no.2,2017,pp 131-143.
(9) Avnoon N.,Kotliar D.M.,Rivnai-Bahir S.,“Contextualizing the ethics of algorithms:A socio-professional approach”.New Media&Society,2023,https://doi.org/10.1177/1461444822114572;Seaver N.,“What Should an Anthropology of Algorithms Do?”,Cultural Anthropology,vol.33,no.3,2018,pp.375-385.
(10) Johnson D.G.,Computer Ethics,3rd edition,New Jersey:Prentice Hall,2001..
(11)Floridi L.,The Fourth Revolution:How the Infosphere Is Reshaping Human Reality,New York:Oxford Unieversity Press,2014;Verbeek P.P.,“Materializing Morality:Design Ethics and Technological Mediation”,Science,Technology,&Human Values,vol.31,no.3,2006,pp.361-380..
(12)[英]卢西亚诺·弗洛里迪:《信息伦理学》,薛平译,上海译文出版社,2018年,第381页。.
(13) Ess C.,Digital Media Ethics(3rd Edition),New York:Polity,2013,p.90..
(14)卢西亚诺·弗洛里迪、陈鹏:《无过失责任:论分布式道德行为的道德责任之本质与分配》,《洛阳师范学院学报》,2018年第4期,第5-13+41页。.
(15)闫宏秀:《数据时代的道德责任解析:从信任到结构》,《探索与争鸣》2022年第4期,第37-46+177页。.
(16)丁雪枫:《人工智能伦理的人伦本质探析》,《河北学刊》2023年第3期,第53-59页;刘友华:《算法偏见及其规制路径研究》,《法学杂志》2019年第6期,第55-66页;Kitchin R.,“Thinking Critically About and Researching Algorithms”,in David Beer,eds.,The Social Power of Algorithms,London:Routledge,2019,p.14-29..
(17) Avnoon N.,Kotliar D.M.,Rivnai-Bahir S.,“Contextualizing the ethics of algorithms:A socio-professional approach”.New Media&Society,2023,https://doi.org/10.1177/1461444822114572..
(18) Green B.,“The Contestation of Tech Ethics:ASociotechnical Approach to Technology Ethics in Practice”,Journal of Social Computing,vol.2,no.3,2021,pp.209-225;严三九、袁帆:《局内的外人:新闻传播领域算法工程师的伦理责任考察》,《现代传播》2019年第9期,第1-5+12页。.
(19) Seaver N.“Algorithms as culture:Some tactics for the ethnography of algorithmic systems”,Big Data&Society,vol.4,no.2,2017,https://doi.org/10.1177/2053951717738104..
(20) Ryan M.,Christodoulou E.,Antoniou J,et al.,“An AI ethics‘David and Goliath’:value conflicts between large tech companies and their employees”,AI&Society,2022,pp.1-16,https://doi.org/10.1007/s00146-022-01430-1..
(21)Orr W.,Davis J.L.,“Attributions of Ethical Responsibility by Artificial Intelligence Practitioners”,Information,Communication&Society,vol.23,no.5,2020,pp.719-735..
(22)王婧雯、马歆、孙丽君:《溯源计算机领域从业者性别失衡,助力下一代女性计算机人才成长》,2022年3月8日,https://mp.weixin.qq.com/s/a9ztq57lhl Gid Wo_g Ozl9g,2024年10月10日。.
(23)陈氚、李晓曼:《人工智能的决策替代与社会缓冲--以X智能电厂为例》,《社会学研究》2024年第1期,第156-179+229页。.
(24)[美]兰登·温纳:《自主性技术:作为政治思想主题的失控技术》,杨海燕译,北京大学出版社,2014年版。.
(25) Matthias A.,“The Responsibility Gap:Ascribing Responsibility for the Actions of Learning Automata”,Ethics and Information Technology,no.6,2004,pp.175-183..
(26) Nyholm S.,“Attributing Agency to Automated Systems:Reflections on Human-robot Collaborations and Responsibility-loci”,Science and Engineering Ethics,vol.24,no.4,2018,pp.1201-1219..
(27)Noorman,M.,Mind the Gap:A Critique of Human/Technology Analogies in Artificial Agents Discourse,Maastricht:Universitaire Pers Maastricht,2009..
(28) Jonas H.,The Imperative of Responsibility:In Search Of An Ethics For the Technological Age,Chicago:University of Chicago Press,1984..
(29)Tian Q.,Peterson D.K.,“The Effects of Ethical Pressure and Power Distance Orientation on Unethical Pro‐organizational Behavior:The Case of Earnings Management”,Business Ethics:A European Review,vol.25,no.2,2016,pp.159-171..
(30) Wallach E.J.,“Organizations:The cultural Match”,Training and Development Journal,vol.37,no.2,1983,pp.29-36..
(31)Orr W.,Davis J.L.,“Attributions of Ethical Responsibility by Artificial Intelligence Practitioners”,Information,Communication&Society,vol.23,no.5,2020,pp.719-735..
(32)Douglas D.G.,The Social Construction of Technological Systems:New Directions in the Sociology and History of Technology,Cambridge:MIT Press,2012..
(33) Pro Publica,Machine Bias,published on2016-05-23,retrieved from:https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing..
(34)Floridi L.,“Faultless Responsibility:On the Nature and Allocation of Moral Responsibility for Distributed Moral Actions”,Philosophical Transactions of the Royal Society A:Mathematical,Physical and Engineering Sciences,vol.374,2016;Leonelli S.,“Locating Ethics in Data Science:Responsibility and Accountability in Global and Distributed Knowledge Production Systems”,Philosophical Transactions of the Royal Society A:Mathematical,Physical and Engineering Sciences,vol.374,2016..
(35)[法]埃米尔·涂尔干:《社会分工论》,渠敬东译,生活·读书·新知三联书店,2017年,第16页。.
(36)齐志远、高剑平、郝亚楠:《生产工具演变与劳动分工体系变革--从机器、专用人工智能到通用人工智能雏形Chat GPT》,《自然辩证法通讯》2024年第2期,第1-10页。.
(37)何江、闫淑敏:《人机劳动分工:生成逻辑、模式类型与作用机制》,《南开管理评论》2024年第6期,第88-99页。.
(38)袁雨晴、陈昌凤:《道德物化:大模型人机价值对齐的技术伦理进路》,《南京社会科学》2024年第6期,第88-97页。.
(39)黄阳坤、俞雅芸:《镜像与花园之辩:算法歧视争议下的价值目标与伦理实践--基于工程师的访谈》,《国际新闻界》2023年第10期,第91-111页。.
(40)[法]埃米尔·涂尔干:《职业伦理与公民道德》,渠敬东译,商务印书馆,2015年,第10页。.
(41)汪建华、何冠霖:《技术分工与青年IT程序员的职业流动》,《中国青年研究》2023年第9期,第61-68+76页。.
(42)梁萌:《加班:互联网企业的工作压力机制及变迁》,社会科学文献出版社,2019年。.
(43)冯晓青、刘淑华:《试论知识产权的私权属性及其公权化趋向》,《中国法学》2004年第1期,第63-70页。.
(44) Avnoon N.,Kotliar D.M.,Rivnai-Bahir S.,Contextualizing the ethics of algorithms:A socio-professional approach.New Media&Society,2023,https://doi.org/10.1177/1461444822114572..
(45)Seaver N.Algorithms as culture:Some tactics for the ethnography of algorithmic systems,Big Data&Society,2017,vol.4,no.2..
(46)姬德强:《“困在系统”之外:一个数字平台研究的国家理论》,《编辑之友》2022年第10期,第15-21页。.
(47)方兴东、金皓清、钟祥铭:《中国互联网30年:一种全球史的视角--基于布罗代尔“中时段”的“社会时间”视角》,《传媒观察》2022年第11期,第26-42页。.
(48)贺照田:《当前中国精神伦理困境:一个思想的考察》,《开放时代》2016年第6期,第108-122+8页。.
(49)解学芳、曲晨:《价值对齐:AIGC时代的人工智能文化科技伦理风险与精准共治路径研究》,《兰州大学学报(社会科学版)》2024年第3期,第147-156页;闫坤如:《人工智能体价值对齐的分布式路径探赜》,《上海师范大学学报(哲学社会科学版)》2024年第4期,第131-139页。
基本信息:
DOI:
中图分类号:G206;TP18
引用信息:
[1]俞雅芸,黄阳坤,陈昌凤.分布式道德何以失灵?工程师视角下的算法伦理责任困境[J].新闻与写作,2025,No.490(04):82-95.
基金信息:
国家社科基金重大项目“智能时代的信息价值观引领研究”(项目编号:18ZDA307); 清华大学新闻与传播学院博士研究生学术创新项目的阶段性成果