让科技更有担当 需从技术、社会双管齐下

　　“主张用技术调节取代技术修复的根本原因有二。一是数字技术等普遍性科技应用所带来的社会问题盘根错节，技术手段的运用只能治标不能治本。二是由于科技带来的社会影响和问题最终涉及的还是人，但人的行为不应作为修复的对象，而只能在尊重人的合法权利与尊严的前提下，借助技术、法律、伦理等中介对其加以必要的调节。”

　　段伟文

　　科技仿佛是我们这个时代的空气，科技企业正在使技术成为我们星球的泛在力量，它们将各种技术聚合为影响巨大的数字网络平台，为商业、文化、工作、生活和娱乐带来了诸多颠覆性创新。习近平总书记近期在山西考察时指出，“希望企业在科技创新上再接再厉、勇攀高峰，在支撑先进制造业发展方面迈出新的更大步伐。”

　　各种颠覆性创新使科技企业对社会的影响力呈指数级增长，但社会与自然显然涉及比科技复杂太多的系统、机制和力量，这就使得科技企业对其社会与环境后果的控制能力远远跟不上其影响力的增长，由此呈现出部分矛盾的状况。一方面，不论出于商业还是社会公益的需要，科技企业日益成为该出手时就能出手的创新者；另一方面，科技创新和应用又带来了部分不易掌控但又亟待治理的问题。面对由此产生的环境、社会和监管方面的风险，不少科技企业开始认真考量如何使科技在其手中得到善用。无论主观意图如何，面对科技深远影响和由此产生的必须担当的社会责任，科技善用日益成为科技企业未来发展的不二选择。

　　技术修复不足以促进科技善用

　　科技企业和工程技术人员对科技和创新一般有两个基本认知。一是认为科技是工具，或者说是双刃剑，科技后果的善恶取决于使用者的意图。二是强调尽管技术在开发和应用中会出现各种问题，但通过进一步的修正、迭代和创新，可以运用技术使这些问题得到修复。单从技术产品与服务来讲，这些认知具有积极的意义。但若将思考的边界拓展到社会层面，由于这两个认知仅仅从技术层面定义问题和寻找解决方案，远远不能应对科技应用所带来的复杂社会风险。

　　克服这一认知局限固然需要科技企业打破思维惯性，但从整个社会来讲，面对充满各种突破性的科技发展，也应对科技所引发的复杂社会问题的实质与机理有更为全面和系统的洞察，并在此基础上构建起综合性的管理与治理架构。一方面，在社会管理和治理层面，技术在社会治理和管理中的应用最终要结合社会的实际发展情况，相关部门不仅应该了解科技创新的动态与趋势，而且要对其实际效力有全面客观的认知。另一方面，科技企业应认识到，社会问题并不能完全转化为技术问题，技术解决方案固然可以改进产品和服务中的技术问题，但仅仅通过技术修复往往不足以实现对相关社会问题的标本兼治。

　　因此，无论是社会管理部门，还是科技企业，都应该形成的一个基本常识――不要仅以技术问题的解决方式来解决社会问题。不论是已经存在的社会问题，还是由科技应用所造成、触发或放大的社会问题，特别是其中的一些痛点和难点，要根本解决不可能简单地诉诸事后的技术修复，而应立足社会系统及其复杂的运行机制，转向从整体上对科技社会系统进行动态的技术调节。与仅仅在事后像修理机器一样被动应对科技的负面影响和不确定风险的技术修复不同，技术调节不满足于对具体问题的技术解决，而进一步强调对科技社会运行的全过程的调适。一方面，通过引入专门的技术举措对相关群体和个体行为加以必要调节，另一方面，由社会创新和治理创新入手，使群体的生存、生活与生态得到系统性与整体性的改进。例如，面对老龄化社会的挑战，智能聊天机器人和老年陪伴机器人的研发将使问题得到部分缓解，但并不能完全替代老年人所需要的亲情和人际交往，问题的根本解决还需要社会层面的系统创新。

　　技术调节应该像一把精致的手术刀

　　毋庸置疑，借助科技创新的突破性力量，科技的善用，将使我们的世界变得更加美好。但科技所蕴含的潜力和希望要真正转化为对社会有意义的现实力量，真正形成稳健的趋利避害机制，需要包括科技企业在内的全社会的共同努力。在此过程中，技术调节的观念有助于促使科技的杠杆朝着有益社会的方向撬动。

　　在促进科技善用的进程中，主张用技术调节取代技术修复的根本原因有二。一是数字技术等普遍性科技应用所带来的社会问题盘根错节，技术手段的运用只能治标不能治本，再先进的技术手段也不可能做到全覆盖无差错，科技企业和管理部门都应该认识到这一事实。二是由于科技带来的社会影响和问题最终涉及的还是人，但人的行为不应作为修复的对象，而只能在尊重人的合法权利与尊严的前提下，借助技术、法律、伦理等中介对其加以必要的调节。在此，所谓调节就是以一些有约束力的技术手段对科技创新和应用中的人与人、人与技术之间的关系做出必要的调整，使人们在科技时代的生活更加美好和谐。这就意味着，以科技善用为目标的技术调节不应简单粗暴，而要在反复测试和细粒度调适的基础上，做出审慎的技术协调。

　　目前，人们对科技治理与科技善用的关注度越来越高。相关管理措施和技术手段的采用往往由社会争议和热点事件所推动。客观地讲，这种被舆论所左右的应对方式带有一定的被动性。监管部门和企业需进一步探寻更加务实有效的多元共治之道。

　　长远来看，不论是对于管理部门还是科技企业而言，技术调节应该像一把精致的手术刀，而不是粗旷的开山斧。即便是数字娱乐与社交技术应用中的青少年保护问题，企业在充分认识到问题的重要性和急迫性的同时，也应该意识到相关技术自身的局限性和技术调节在应用中的恰当性，以避免技术滥用。

　　在实践层面，各种技术调节方案的实施往往需要精细校准和综合协调。以人脸识别在各种场景中用于技术调节为例，科技企业逐渐认识到，一要看到技术本身的局限性，不论是场景触发的人脸验证还是评估用户行为的特征画像，目前尚处于探索阶段，需通过反复测试提高覆盖率和精确度；二要考量技术应用的恰当性，鉴于人脸识别在隐私权及生物特征信息保护方面存在争议，应该避免无差别的验证，非常审慎地在用户隐私、信息安全与未成年人保护之间寻求平衡。

　　科技善用的关键在于社会适用性

　　为了促进科技善用而展开的技术调节不是单纯的科技活动，而是综合性的科技―社会实践，其目标只有通过公众、科技企业、管理部门、教育传播以及社会创新组织的多元互动和系统协调，才可能逐步实现。因此，科技善用的成败，最终取决于其社会适用性。

　　为此，在促进科技善用而实施技术调节的过程中，应有两个方面的基本考量。一是为了合理设定科技善用的可行目标，需要大量的跨界思考和跨界融合，以便产生科技善用所需要的共识与知识；另一方面，要在管理部门与科技企业之外，培育社会创新力量，建立起由社会治理、科技创新与社会创新构成的科技善用的三螺旋动态演进架构。而这些考量，需进一步开展各种实践权衡后方可有效推行。

　　首先，技术调节虽然需借力技术，但又应该超越技术框架。尽管当前数字技术发展一马当先，但我们的思维方式不应局限于数字技术，不能将所有需要改善的社会问题和亟待克服的科技负面影响简化为算法和应用程序，而应超越这些技术框架，直面问题本身，寻找更具社会适用性、更合乎人性与人的需求的化解之道。否则，若单从技术角度看问题，简单地将社会问题转换为有待热门技术解决的问题，容易遮蔽对真实社会问题的应有认知，甚至会导致新的数字鸿沟。据报道，近年来，英国政府开始运用数据和算法评估低收入群体的救济金发放，因为各种偏差，使一些人失去了应得到的救助。在技术时代，应该注意克服这种“宁信度、勿信足”的做法。

　　其次，技术调节最终要改进的是人的行为，不能单靠技术，要充分调动人的能动性。人是复杂的，在无法有效影响和改变人的主观认知和意愿的情况下，既不可能完全通过智能感知对人的行为实施精准调控，也不可能仅借助技术措施对人进行实质性的干预。这并非完全否定技术手段对人的行为的调节作用，而是强调其有限性。认识到这一点，有助于科技企业和管理部门避免管理与治理中的形式主义。

　　最后，技术调节的推行者应转换视角，走出设计者与主导者的角色制约，转而学习普通人在技术应用中的智慧，从不同角度寻找化解之道。面对人脸识别等有争议的应用和数字成瘾等复杂的社会问题，要善于发现普通人化解这些问题的智慧，用这些亮点启发更多的人学习和实践科技善用之道。就像计算机系统的自举过程那样，可以尝试性地构建一种自下而上的协同机制，鼓励每个人更主动积极地参与到科技创造美好生活的行动中来。

　　（作者系中国社科院科学技术和社会研究中心主任、研究员）