技术设计的创新方法与伦理考量——弗里德曼的价值敏感设计方法论述评

计方法论述评

刘瑞琳;陈凡

【摘 要】价值敏感设计是一种关于技术设计的创新理论方法,它从价值与技术设计相互作用的角度辩证地看待技术设计和社会环境,采用概念、经验和技术调查的三重研究方法,强调技术设计过程中道德价值的输入,致力于在技术设计阶段有效解决技术中的伦理问题.价值敏感设计提倡设计师充分考量技术用户及其他利益相关者的道德感受和价值诉求,具有很强的现实意义和一定的先进性,但仍可能面临某些质疑.价值敏感设计的实践应用会受到技术中诸多复杂因素的影响,仍需要不断地完善和发展.

【期刊名称】《东北大学学报（社会科学版）》 【年(卷),期】2014(016)003 【总页数】6页(P232-237)

【关键词】技术设计;价值敏感设计;技术伦理;芭提雅·弗里德曼 【作 者】刘瑞琳;陈凡

【作者单位】东北大学科学技术哲学研究中心,辽宁沈阳 110819;东北大学科学技术哲学研究中心,辽宁沈阳 110819 【正文语种】中 文 【中图分类】N031

信息系统的设计一直以来的研究旨趣在于维系人类亘古不变的价值,如隐私、所有权和财产权、物质幸福、公正、通用性、自主性、知情同意、信任等,但信息系统对这些价值损益兼而有之。例如,旨在增强公民和国家安全而安装于银行、商场和机场的监控摄像头,往往侵害了个人隐私;网络上的海量图像和文字大大拓展了可用信息量,但由此带来的知识侵权问题不容忽视。为了应对信息技术人机交互领域的进步和发展带来的角色和利益关系的转变,美国华盛顿大学信息学院教授芭提雅·弗里德曼(Batya Friedman)等于20世纪90年代前后提出一个在信息技术设计的早期阶段解决伦理问题的方法,致力于提供一个“在设计过程中以原则性和全面性的方式诠释和维系人的价值”[1]1的方法论体系来处理设计工作的上述价值维度,即价值敏感设计(value sensitive design),以期为其他研究人员和设计师的研究和方法体系的系统构建提供足够的细节参考[2]1。

弗里德曼是华盛顿大学信息学院教授、计算机科学研究所兼职教授、人性化工程研究所兼职教授及价值敏感设计研究实验室带头人。1979年获得美国加州大学伯克利分校学士学位,1988年获得美国加州大学伯克利分校博士学位。2012年获得SIG-CHI(special interest group on computer human interaction)社会贡献奖。 弗里德曼的价值敏感设计研究首先在人机交互中发展,至今已经被应用于信息管理、人与机器人交互、计算机安全、土木工程、应用哲学、土地使用和运输等领域。价值敏感设计在弗里德曼的研究中一以贯之,得到了广泛的使用和验证。

弗里德曼从20世纪90年代就已从事计算机技术设计和人类价值的相关研究。较早的相关研究文献为1992年的《人类(人道)使用的计算机系统设计》和《人类主体与负责任计算:计算机系统设计的启示》(1997年再版时更名为《人类价值和计算机技术设计》)。弗里德曼关于价值敏感性设计的叙述最早见于她1996年发表于《交互》(Interactions)杂志“看法”(perspective)栏目的《价值敏感性设计》。在这篇文章中,弗里德曼讨论了两个价值即用户自主性和公正无偏见,总结了关于价

值敏感设计重要性的几点思考:对价值敏感设计实施的合理限制和价值敏感设计如何对经济授权作补充。

2000年之前弗里德曼的研究主题侧重于计算机系统设计中的人为因素,如1992年《人类主体与负责任计算:计算机系统设计的启示》,1995年《计算机系统中的偏见最小化》。

2000—2008年,弗里德曼主要关注网络浏览器的安全性和人的价值,探讨网页浏览器设计中的价值敏感性,不断完善关于价值敏感设计的理论与方法,并与多人合作,研究兴趣扩展至智能机器人及城市模拟和大型显示器的科技属性领域。如2002年的《火狐浏览器中的知情同意:价值敏感设计的实现》;2003年的《儿童与人工智能机器狗的互动编码手册——学前教育研究》(第二作者);2004年参与编著的《人机交互百科全书》中的“价值敏感设计”篇;2005年的《远程花园的人机对话所揭示的人与遥控机器人的互动》(第二作者);2008年参与编著的《信息与计算机伦理手册》中的“价值敏感设计和信息系统”一章;2008年《未来的办公窗口?——大屏幕新用途的现场分析》。

近几年弗里德曼的研究逐渐转向工业中的价值敏感设计和开放源代码工具、移动计算、植入式医疗设备、泛在计算和计算机基础设施等多维系统设计。如2006年的《开放源代码许可的隐私增编的发展:工业中的价值敏感设计》;2010年的《患者、心脏起搏器、植入去纤颤器:人的价值和无线植入式医疗设备的安全性》(第三作者);2012年的The Envisioning Cards:A Toolkit for Catalyzing Humanistic and Technical Imagination。 1.技术设计中的人类价值

价值本身具有多样性,从不同的角度可区分出不同的价值,如从性质上有正、负价值,从量上有大、小价值,从内容上有经济价值、科学价值、文化价值、政治价值、体育价值和医疗价值等[3]。有些研究认为伦理学应被归入价值理论体系中,但更普遍

的看法是认为伦理价值仅是伦理学的一个组成部分。各种看法的统一共识是价值不能与事实混为一谈(事实/价值的区别),尤其是就逻辑意味而言,事实并不意味着价值。价值不仅来自于对外部世界的经验描述,实质上更依赖于人类文化环境内的利益和愿望[2]2。价值敏感设计在探究价值时不仅考量人类的伦理价值诉求,也涉及技术领域的其他价值。

弗里德曼从具体化、外在化和相互作用三个角度论述了价值存在于技术设计中的方式。价值敏感设计是从相互作用的角度探讨技术设计中的价值。 (1)具体化的角度

具体化的观点认为设计者将自身的意图和价值观嵌入技术中,技术应用和开展的结果将决定使用者的特定行为。强硬派技术决定论认为设计者和制作者带入到工作中的意图和倾向无形中必将化为技术的一部分,这一观点备受诟病。温和派的技术决定论则认为,技术人工物本身并不能体现意图或者意向,技术设计者也受组织、经济和政治力量的培养和影响;由于上述力量的存在,某一项特定技术一旦稳定生根,对其的控制将困难重重。 (2)外在化的角度

外在化的观点认为经济、政治、种族、阶级、年龄和宗教等社会力量影响和塑造了可实施的技术;技术系统不是价值中立的,无一例外地偏向拥有经济和政治权力的人的利益。

(3)相互作用的角度

互动的立场认为人类通过设计融入到技术之中的特征和属性更易于支持或妨碍某个价值观的实现,技术的实际应用取决于人类与其相互作用的目的。技术在创造和设计后,通过与技术使用者的相互作用,经历再创造和再设计的过程,得到不断地改变和完善。相互作用的观点认为应当辩证地看待设计和社会环境,技术用户已逐渐具备应对和处理植入违背用户本意的价值导向的技术的能力,目前存在两种对立的观点,

其中一方观点是强调使用者如何在社会组织结构背景下使用技术,代表人物是W.J.奥里科夫斯基(Wanda J. Orlikowski)。奥里科夫斯基跟踪观察大型跨国咨询公司中的两个群体:技术人员和顾问,研究他们使用莲花开发公司的Notes软件①Lotus Software(莲花公司,全名Lotus Development Corporation)是一家美国软件公司,总部位于美国马萨诸塞州波士顿。这家公司最著名的软体是Lotus 1-2-3试算表软体。1995年该公司被IBM以35亿美元并购。以Lotus Notes为客户端的Lotus Domino平台为众多企业所采纳,是该公司的旗舰级产品。的情况。相比技术人员对该软件的广泛使用,顾问对其却极少问津。奥里科夫斯基认为造成上述现象的原因有三:第一,部分顾问对Notes软件呈现的价值持怀疑态度;第二,“许多顾问因为不知道使用Notes软件可以纳入计时收费项目中而不愿意花时间学习和使用”;第三,部分顾问担心Notes软件的协作属性会威胁到他们在公司的独立地位。因此,奥里科夫斯基提出了“技术结构的视图不是在给定的技术人工物中体现,而是由技术使用者们反复的社会实践活动来制定”[4]。

相互作用角度的另一方的观点强调嵌入到技术设计中的属性,以弗里德曼为代表,并形成了较完善的成果:价值敏感设计。价值敏感设计认为技术具有强烈的道德和价值含义,技术的设计应被前摄性地主动影响,应考虑到设计过程中的人类价值,而不是仅仅在技术设计完成后作出反应。价值敏感设计特别强调道德价值的输入,涵盖了隐私、信任、知情同意、尊重知识产权、通用性、无偏见、道德责任、义务、诚实和民主等价值,也涉及实用性的价值(如系统操作的简易化)、公约(如标准化协议)和个人品味(如图形化用户界面中的颜色偏好)等[5]。

在2008年出版的《信息与计算机伦理手册》中的“价值敏感设计和信息系统”一章的6.8节“系统设计通常涉及的人类价值(道德输入)”里,弗里德曼等人给出了价值敏感设计中所涉及的13个价值及示例文献,包括9个基于道义论和因果道德取向的传统价值:人类幸福、所有权和财产、隐私、公正、普适性、信任、自主性、知

情同意、责任,4个人机交互领域里的非传统价值:礼貌、身份、冷静、环境可持续[2]18。

2.价值敏感设计的伦理和哲学基础

弗里德曼认为,道德论中的效果论、义务论和美德论同样适用于分析和进行技术设计。从效果论或者义务论的角度看,温情和友好也许不属于人类价值观,毕竟一个人“热心肠”的行为可能不是出于道德责任感;但是美德伦理学家基本上会认为温情和友好的确是人类价值,因为这些价值恰恰被认为是道德人格的核心。当然,友好、关怀和耐心等美德的秉持和实现通常不是强制性的,并不具备道德的义务性。 从道德认识论中的怀疑论和道德相对论的角度,道德知识的反应具有一定的相对性,没有人可以定义真正的正确或错误,所以道德观和价值观仅是在技术设计中个人的最优选择。

弗里德曼认为,技术设计应充分吸取道德差异化和普适性两种理论的可取之处,从中获得更明智和更强大的方法,既要有普遍的道德价值观的分析,也考虑这些价值在特定的时间和文化环境中的不同的表现形式[6]。

价值敏感设计是一种假设设计过程并非中性的技术伦理学方法,它假设设计过程是负载价值和道德相关的,认为出于伦理道德的相关考量对技术人工物世界的塑造产生了一定影响。价值敏感设计旨在以一种原则的和综合的整体视角去说明贯穿设计过程的人的价值,采用一个综合性的三重方法论,包括概念、经验和技术研究的方法。 1.概念研究

概念的研究方法是对主要结构和问题进行哲学阐释,目的是为了深入研究和分析与具体的技术设计相关的伦理价值,充分考虑某一个技术设计对直接和间接利益相关者的社会性影响。直接利益相关者指的是直接受计算机系统及其输出影响的个人或组织;间接利益相关者指的是受信息系统使用所影响的所有其他各方,这部分利益相关者常常被设计者所忽视。弗里德曼认为,这一阶段需要考虑的问题主要有:哲学类

文献如何定义某些特定的价值(如信任、隐私、知情同意)?受此项设计影响的直接和间接利益相关者是谁?我们如何在技术的设计、实施和使用中对相互矛盾的价值进行权衡(如自主与安全,匿名与信任)?价值敏感设计在概念性研究的范畴下研究上述问题。

此外,还需要设定上述问题发生的历史背景与现实背景,以及从整体上描述具体的技术设计问题。例如,弗里德曼等人分析网络系统设计中的信任时,首先对信任这一价值进行哲学概念化阐释。他们提出,信任指的是即使信任者处于易遭受伤害的状态,仍然确信具备施害能力的被信任者不会伤害自己。信任有赖于信任者基于以下三种情形的评估:一是可能遭受的伤害;二是被信任者所具备的不对信任者施加伤害的善意;三是若超出信任关系界限之外伤害能否发生。

通过上述对信任这一价值的概念研究,弗里德曼等人能有效区分网络系统中的信任有别于传统的信任研究之处。美国计算机科学与通信局在《网络空间的信任》中采取“信任”和“可信”来定义按预期执行的信息系统应具有的正确性、可靠性、安全性和可维持性等维度。这里的信任,是对机器预期性能的“信任”,这跟人与人之间的关系(可能是机器介导的)的信任明显不同[7]。 2.实证研究

实证研究在概念研究基础上,使用观察、访谈、调查、实验操作、相关文件收集、用户行为和人体生理测量等定量和定性方法,为概念研究中探讨的价值因素提供必要的经验数据支持,同时为某项设计的技术研究提供经验数据的反馈,关注的是人们对技术人工物的应对及技术在更大的社会背景中所处的位置。弗里德曼认为,这一阶段需要考虑的问题主要有:利益相关者怎样理解互动语境下的个人价值观?在设计权衡中利益相关者如何取舍互相矛盾的价值?预期和实际操作是否存在差异?技术组织如何在设计过程中影响对价值的考量(如组织的动机、训练和宣传方法,以及奖励结构是什么)?

弗里德曼等人分析了信息系统设计中“可用性”这一特殊价值与人类道德价值的复杂关系模式:一种是能够兼顾可用性和有益于某个道德价值(例如高可用性的电脑接口也可以增进用户自主性);另一种是以牺牲某个人类价值为前提的可用性(例如一个高可用性的监视系统对隐私的侵害);第三种是有益于人类价值却阻碍了可用性(例如为了保护用户的知情同意权,网页浏览器要求用户对单个cookie进行操作,大大降低了浏览器的可用性);第四种是以支持某个价值为必要前提的可用性(例如为了保证美国全国大选网上投票系统的公正性,所有的适龄选民都必须会使用该投票系统)。弗里德曼认为,一个可行的信息系统的设计必须对可用性和人类道德价值作出权衡[1]3。 3.技术研究

技术研究是研究具体的技术设计细节与因素,从而能够在具体的技术设计语境下促进或者阻碍既定的价值。弗里德曼认为在信息系统设计中,一个特定的技术更易于支持某类活动和某个道德价值,同时使其他活动和价值更难以实现。

技术研究着重于对信息技术系统的设计及对现有技术的性能的分析。对信息技术系统的设计是通过主动设计来支持概念研究中对价值的确定,分析既存的技术属性与潜在的机制如何支持或阻碍价值的实现;对现有技术的性能的分析涉及对现有技术的性能和基本机制如何支持或阻碍人类价值观的回溯性分析。例如,某些以视频为主的协同工作系统仅是粗略监控办公室设施,另一些系统则提供工作情形的详细清晰影像,上述两种系统的不同源于对个人隐私和群体中个人成员的存在与活动两类价值的权衡的差异。关于对现有技术的性能的分析这一方面,弗里德曼认为,技术的方法也可能涉及实证的活动,技术的方法关注的是技术本身,而实证的方法专注于人[8]。

价值敏感设计在有效处理技术使用中的道德问题和对技术进行有效控制方面,具有很强的实践意义和一定的先进性,但因处于起步阶段,目前还需面对质疑和问题。

1.实践意义和先进性 (1)实践意义

价值敏感设计具有主动性,主张在设计过程早期和整个过程中影响技术的设计;拓展了人类价值观的范畴,包含了所有的价值观,尤其是道德输入的价值观;提出了独特的综合方法论,包括了概念、实证和技术研究;是强调互动性的理论,从具体化和抽象化两个层面进行研究,强调人们和社会系统对技术发展的影响,认为新技术塑造(非生硬的决定)个体行为和社会系统;利用道德认识论来为设计提供一个原则性的方法,来维系涉及人类福祉、权利和公正等特定价值观,对自主的道德个体或团体秉承的价值观进行有效引导。 (2)先进性

“社会和人的问题的妥善解决在很大程度上是目标确定和价值选择的问题,作为手段而非目的的科学和技术对此先天乏力。任何对人类事务进行科学管理而制定的规划,在目标选择的紧要关头都大大地受到有关价值的不确定性、矛盾和冲突的限制。这些价值源出于确定的科学和技术领域之外的宗教、伦理和美学的思维方式和行为方式。”[9]价值敏感设计将伦理的和道德的考量等价值判断带入技术设计中,能有效避免、检验和解决技术设计和应用中面临的种种有关价值的不确定性、矛盾和冲突等问题。

2.质疑与可能的局限性

价值敏感设计特别强调道德输入,主张将经过权衡和筛选的道德价值预设于技术设计中,让使用者的行为在使用技术时受到影响从而符合道德规范,由此,技术使用中的道德问题可能得到有效解决,以达到对技术进行有效控制的目的。“技术专家(可靠地)知晓所有与人类社会的生存和幸福有关的事物:人的需要、社会工程、经济计划、国际关系、发明、教育等等”[9],那么负载着经技术专家选定的道德价值和道德规范的技术是否就能决定人的道德取向和行为呢?技术哲学家埃吕尔早有先见之

明:“技术(technique)需要可预见性,居然也需要一样的预见的精确性。于是,技术战胜人是必然的。对于技术而言,这是生和死的问题。技术必定把人变为技术动物,即技术奴隶的首领。人的畅想在这种必然性面前破碎了;在面对技术的自主性时不会有人的自主性。个人不得不被技术塑造,或被消极地(通过理解人的技术)塑造,或被积极地(通过使人适应技术框架)塑造,以便擦去他的私人决定带入组织机构的完美设计中的污渍。”[10]技术统治主义认为,技术所负载的独特价值主宰着人类社会文化价值的变迁,如果技术设计者真的能够把一定的价值观念预设到技术产品之中,并能通过技术产品的使用来影响使用者的行为,那么技术设计者具备设定价值观念和道德规范的权力和能力吗?如果设计师的行为不受到一定法律和道德程序的规范,这是否会有“技术专家统治论”的嫌疑[11]?

另外,把价值敏感设计理论用到技术设计中并非易事,价值敏感设计如何被整合到现有的技术人工物设计研发的实践中,往往受到使用者、使用环境等多方面因素的影响,技术的使用过程是不可控的,最终可能导致技术设计者原初目的与实际效果的偏差,甚至会出现事与愿违的结果。

玛丽·L.卡明斯(Mary L.Cummings)教授认为,价值敏感设计并不追求提供成熟的设计方法,在一定程度上,它可以被视为一个提高现有设计过程的工具,因为价值敏感设计遵循了一个常用工程方法的普遍应用模式,它能够很容易地纳入已经建立的设计过程[12]。

价值敏感设计能够使道德规范和伦理价值在技术实践中不断应用、预测、检验与修正,有助于价值与技术设计实践之间的平衡,有助于增强技术设计者的伦理意识和价值敏感性,使得设计者能够设身处地地考量技术用户和公众及其他社会群体的道德感受和价值诉求,在设计语境中预设技术人工物的设计应用和普及的种种可能性,有效实现了设计者与各个利益相关者的互动。尽管价值敏感设计仍需要不断地完善和扩充,但价值敏感设计是技术的利益相关者在技术设计开发的早期阶段负责任地参

与解决道德问题的一种比较合适的方法论,对中国的技术哲学和技术伦理学研究具有重要的借鉴价值,有助于中国特色的技术哲学研究。

[1]Friedman B,Kahn P H Jr,Borning A.Value Sensitive Design:Theory and Methods[R].Washington,D.C.: University of Washington,2002. [2]Friedman B,Kahn P H Jr,Borning A.Value Sensitive Design and Information Systems[M]∥Himma K E, Tavani H T.The Handbook of Information and Computer Ethics.Hoboken:Wiley,2008. [3]闫宏秀.技术进步与价值选择[D].上海:复旦大学哲学系,2003:43.

[4]Orilikowski W J.Using Technology and Constituting Structures:A Practice Lens for Studying Technology in Organizations[J].Organization Science,2000,11(4):404 -428.

[5]Friedman B.Value Sensitive Design[M]∥Bainbridge W S.Berkshire Encyclopedia of Human-computer Interaction.Berkshire:Berkshire Publishing Group, 2004:769.

[6]Friedman B,Kahn P H Jr.Human Values,Ethics,and Design[M]∥Jacko J,Sears A.The Human-computer Interaction Handbook.Mahwah:Lawrence Erlbaum Associates,2003:1182-1183.

[7]Friedman B,Kahn P H Jr,Howe D C.Trust online[J]. Communication of the ACM,2000,43(12):34-40.

[8]Yetim F.Bringing Discourse Ethics to Value Sensitive Design:Pathways Toward a Deliberative Future[J]. Transactions on Human-computer Interaction,2011,3 (2):135.

[9]李醒民.论技治主义[J].哈尔滨工业大学学报:社会科学版,2005,7(6):1-5.

[10]Roszac T.The Making of Counter Culture,Reflection on the Technocratic

Society and Its Youthful Opposition[M]. New York:New York Doubleday Company,1968:6.

[11]张卫,王前.论技术伦理学的内在研究进路[J].科学技术哲学研究,2012,29(3):49. [12]Cummings M L.Integrating Ethics in Design Through the Value-sensitive Design Approach[J].Science and EngineeringE thics,2006,12(4):701-705.