Nature子刊:算法如何通过虚假规律影响人类决策?


Nature子刊:算法如何通过虚假规律影响人类决策?

仅用于站内搜索,没有排版格式,具体信息请跳转上方微信公众号内链接

摘要
研究显示,人们往往被结构和规律性所吸引。本研究提出假设认为,即使某种规律并不带来额外价值,决策者在试图最大化收益的过程中,仍可能被其吸引。基于这一前提设计的算法,在一场旨在引导个体偏好的国际挑战赛中表现优异,超越了所有其他参赛算法。该算法通过为其中一个选项(而非另一个)分配奖励,形成一种不断演化的、但易于追踪的规律模式,从而诱导决策者对有规律选项的偏好比例达到2:1,尽管这种偏好最终并未带来实际优势。研究结果表明,人类确实会赋予“规律性”本身一定的价值,也进一步说明定性方法在理解人类决策行为方面的有效性。此外,仅依赖于奖励学习的决策模型可能是不完整的。
关键词:决策偏差、规律性偏好、行为引导、结构化奖励、算法干预、选择工程竞赛、强化学习模型
来源:集智俱乐部
作者:赵思怡
审校:彭晨
论文题目:Usinganalgorithmicapproachtoshapehumandecision-makingthroughattractiontopatterns
发表时间:2025年5月2日
论文地址:https ://www. nature.com/articles/s41467-025-59131-4
发表期刊:NatureCommunications
在日常生活中,我们似乎天生就对“有规律”的事物情有独钟——从节奏感强烈的音乐到井然有序的日程安排,甚至是重复性强的社交反馈。这种对结构和可预测性的偏好,是否也能被算法捕捉并加以利用,进而悄无声息地改变我们的决策行为呢?近期,NatureCommunications上发表的一项研究提出了一个充满启发性的问题:人类对规律性的偏好,能否成为一种操纵行为决策的工具?研究团队通过一种名为“选择工程竞赛”(ChoiceEngineeringCompetition,CEC)的实验框架,以及一款设计巧妙的算法RaCaS(RegularityasCarrotandStick),探索了仅凭“奖励的结构性”就能引导人类做出特定选择的可能性。
实验范式:衡量规律的价值
CEC是一种开放式的实验框架,旨在比较不同算法在引导人类选择方面的效果。参与者需要完成100次二选一的任务,在不知情的情况下尝试最大化获得奖励的机会。每次选择后系统会立即反馈是否获得奖励。尽管两侧选项的总奖励次数保持一致(每侧25次,每次1美分),但奖励出现的时间和顺序由不同的算法控制。这为算法提供了塑造行为偏好的机会,它们无需增加目标选项的实际收益,只需通过“奖励呈现方式”来影响参与者的判断。
图1:CEC实验界面与任务设置:参与者在屏幕上面对两个选项(本图中为黑色和白色“侧边”),需完成100次二选一的任务。他们并不知道,这些奖励何时出现、出现在哪一侧,完全由算法控制。
在此背景下,研究团队提出了RaCaS算法用于探讨这样一个问题:如果规律本身具有强化作用,那么我们能否通过制造“奖励的规律性”,就让人们偏向某一选择?
RaCaS算法:用规律做“胡萝卜与大棒”
RaCaS(RegularityasCarrotandStick)是一种利用人们偏好可预测和有规律序列的心理特征,来影响其决策行为的算法。RaCaS的设计基于三个心理学假设:
规律性本身具有正向强化作用;
规律的中断会引发负向情绪或惩罚感;
在不确定环境中,人类倾向于维持已有认知假设。
与那些不随用户行为变化的“静态策略”不同,RaCaS会根据参与者的实时选择动态调整奖励发放方式,从而保持参与度,并增强对行为的引导效果。当参与者选择目标选项(Bias+)时,系统会呈现一个具有结构性的奖励序列,且奖励之间的间隔逐渐拉长(间隔范围为1至4次选择)。若选择非目标选项(Bias−),则初期不会获得奖励,且原本与Bias+相关的规律性也会被中断,从而起到惩罚作用。
图2:RaCaS算法原理示意图
基于这些前提,RaCaS通过动态调整奖励发放节奏,在参与者持续选择目标选项时,逐步构建出一个具有结构感的奖励序列。一旦参与者切换至非目标选项,该奖励序列即刻中断,规律感消失。只有当参与者重新回到目标选项并持续选择时,序列才会恢复。此外,为了满足奖励总数不变的要求,RaCaS将非目标选项的奖励延迟到任务后期,并安排在参与者最不易察觉的时间点发放。
实验结果:规律性足以引发显著行为偏好
实验结果显示,RaCaS的效果十分显著。在超过260名参与者中,其引导目标偏好的平均比例达到69. 8%。也就是说,在奖励完全相等的前提下,参与者几乎以2:1的比例偏向RaCaS设定的目标选项。这一效应量(Cohen’sd=1. 16)在行为科学研究中属于较高水平。
图3:RaCaS算法产生行为偏好的效果展示(RaCaS使更多参与者表现出更强的目标偏好)
这意味着,参与者在未意识到被操控的情况下,仅仅因为奖励呈现出一定的可预测性,就做出了系统性偏向的行为选择。RaCaS无需增加目标选项的实际收益,只需营造出“规律存在”的假象,便足以影响人类的决策过程。
自我强化的认知偏差:
以牺牲收益换取心理安慰
RaCaS显著提高了目标选项的选择频率,却并未提升参与者的总体收益。相反,研究发现偏好越强的参与者反而获得的总奖励越少。这是因为随着对目标选项的持续偏好,参与者减少了对非目标选项的探索,而RaCaS恰好将这些奖励隐藏在参与者最不愿意尝试的时间段内。久而久之,参与者形成了“非目标选项无价值”的错误认知,进一步削弱了探索意愿,形成一个负性循环。
图4:RaCaS及其他算法下参与者因偏好产生的收益代价(结果显示,对任何选项都无明显偏好的参与者,其实际获得的奖励最多。)
算法行为引导的新路径与伦理警示
这项研究不仅揭示了人类行为中的有趣现象,也为“算法行为引导”技术提供了新的方法论启示:行为偏差并非必须通过改变结果来实现,而是可以通过结构性安排加以诱导。然而,正如论文作者所强调的那样,这种操控方式的隐蔽性也带来了潜在的伦理风险。在这个由算法主导信息结构的时代,我们不仅要思考“我们做了什么选择”,更要追问:“这些选择是如何被安排成这个样子的”。
阅读最新前沿科技趋势报告,请访问欧米伽研究所的“未来知识库”
https ://wx. zsxq.com/group/454854145828
未来知识库是“欧米伽未来研究所”建立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https ://wx. zsxq.com/group/454854145828进入。
截止到3月31日”未来知识库”精选的百部前沿科技趋势报告
(加入未来知识库,全部资料免费阅读和下载)
牛津未来研究院《将人工智能安全视为全球公共产品的影响、挑战与研究重点》
麦肯锡:超级智能机构:赋能人们释放人工智能的全部潜力
AAAI2025关于人工智能研究未来研究报告
斯坦福:2025斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191页)
壳牌:2025能源安全远景报告:能源与人工智能(57页)
盖洛普&牛津幸福研究中心:2025年世界幸福报告(260页)
Schwab:2025未来共生:以集体社会创新破解重大社会挑战研究报告(36页)
IMD:2024年全球数字竞争力排名报告:跨越数字鸿沟人才培养与数字法治是关键(214页)
DS系列专题:DeepSeek技术溯源及前沿探索,50页ppt
联合国人居署:2024全球城市负责任人工智能评估报告:利用AI构建以人为本的智慧城市(86页)
TechUK:2025全球复杂多变背景下的英国科技产业:战略韧性与增长路径研究报告(52页)
NAVEXGlobal:2024年十大风险与合规趋势报告(42页)
《具身物理交互在机器人-机器人及机器人-人协作中的应用》122页
2025-2035年人形机器人发展趋势报告53页
EvaluatePharma:2024年全球生物制药行业展望报告:增长驱动力分析(29页)
【AAAI2025教程】基础模型与具身智能体的交汇,350页ppt
Tracxn:2025全球飞行汽车行业市场研究报告(45页)
谷歌:2024人工智能短跑选手(AISprinters):捕捉新兴市场AI经济机遇报告(39页)
【斯坦福博士论文】构建类人化具身智能体:从人类行为中学习
《基于传感器的机器学习车辆分类》最新170页
美国安全与新兴技术中心:2025CSET对美国人工智能行动计划的建议(18页)
罗兰贝格:2024人形机器人的崛起:从科幻到现实:如何参与潜在变革研究报告(11页)
兰德公司:2025从研究到现实:NHS的研究和创新是实现十年计划的关键报告(209页)
康桥汇世(CambridgeAssociates):2025年全球经济展望报告(44页)
国际能源署:2025迈向核能新时代
麦肯锡:人工智能现状,组织如何重塑自身以获取价值
威立(Wiley):2025全球科研人员人工智能研究报告(38页)
牛津经济研究院:2025TikTok对美国就业的量化影响研究报告:470万岗位(14页)
国际能源署(IEA):能效2024研究报告(127页)
Workday:2025发挥人类潜能:人工智能(AI)技能革命研究报告(20页)
CertiK:Hack3D:2024年Web3. 0安全报告(28页)
世界经济论坛:工业制造中的前沿技术:人工智能代理的崛起》报告
迈向推理时代:大型语言模型的长链推理研究综述
波士顿咨询:2025亚太地区生成式AI的崛起研究报告:从技术追赶者到全球领导者的跨越(15页)
安联(Allianz):2025新势力崛起:全球芯片战争与半导体产业格局重构研究报告(33页)
IMT:2025具身智能(EmbodiedAI)概念、核心要素及未来进展:趋势与挑战研究报告(25页)
IEEE:2025具身智能(EmbodiedAI)综述:从模拟器到研究任务的调查分析报告(15页)
CCAV:2025当AI接管方向盘:自动驾驶场景下的人机交互认知重构、变革及对策研究报告(124页)
《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新132页
《面向科学发现的智能体人工智能:进展、挑战与未来方向综述》
全国机器人标准化技术委员会:人形机器人标准化白皮书(2024版)(96页)
美国国家科学委员会(NSB):2024年研究与发展-美国趋势及国际比较(51页)
艾昆纬(IQVIA):2025骨科手术机器人技术的崛起白皮书:创新及未来方向(17页)
NPL&Beauhurst:2025英国量子产业洞察报告:私人和公共投资的作用(25页)
IEAPVPS:2024光伏系统经济与技术关键绩效指标(KPI)使用最佳实践指南(65页)
AGI智能时代:2025让DeepSeek更有趣更有深度的思考研究分析报告(24页)
2025军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告(37页)
华为:2025鸿蒙生态应用开发白皮书(133页
《超级智能战略研究报告》
中美技术差距分析报告2025
欧洲量子产业联盟(QuIC):2024年全球量子技术专利态势分析白皮书(34页)
美国能源部:2021超级高铁技术(Hyperloop)对电网和交通能源的影响研究报告(60页)
罗马大学:2025超级高铁(Hyperloop):第五种新型交通方式-技术研发进展、优势及局限性研究报告(72页)
兰德公司:2025灾难性网络风险保险研究报告:市场趋势与政策选择(93页)
GTI:2024先进感知技术白皮书(36页)
AAAI:2025人工智能研究的未来报告:17大关键议题(88页)
安联Allianz2025新势力崛起全球芯片战争与半导体产业格局重构研究报告
威达信:2025全球洪水风险研究报告:现状、趋势及应对措施(22页)
兰德公司:迈向人工智能治理研究报告:2024EqualAI峰会洞察及建议(19页)
哈佛商业评论:2025人工智能时代下的现代软件开发实践报告(12页)
德安华:全球航空航天、国防及政府服务研究报告:2024年回顾及2025年展望(27页)
奥雅纳:2024塑造超级高铁(Hyperloop)的未来:监管如何推动发展与创新研究报告(28页)
HSOAC:2025美国新兴技术与风险评估报告:太空领域和关键基础设施(24页)
Dealroom:2025欧洲经济与科技创新发展态势、挑战及策略研究报告(76页)
《无人机辅助的天空地一体化网络:学习算法技术综述》
谷歌云(GoogleCloud):2025年AI商业趋势白皮书(49页)
《新兴技术与风险分析:太空领域与关键基础设施》最新报告
150页!《DeepSeek大模型生态报告》
军事人工智能行业研究报告:技术奇点驱动应用加速智能化重塑现代战争形态-250309(40页)
真格基金:2024美国独角兽观察报告(56页)
璞跃(PlugandPlay):2025未来商业研究报告:六大趋势分析(67页)
国际电工委员会(IEC):2025智能水电技术与市场展望报告(90页)
RWS:2025智驭AI冲击波:人机协作的未来研究报告(39页)
国际电工委员会(IEC):2025智能水电技术与市场展望报告(90页)
RWS:2025智驭AI冲击波:人机协作的未来研究报告(39页)
未来今日研究所2025年科技趋势报告第18版1000页
模拟真实世界:多模态生成模型的统一综述
中国信息协会低空经济分会:低空经济发展报告(2024-2025)(117页)
浙江大学:2025语言解码双生花:人类经验与AI算法的镜像之旅(42页)
人形机器人行业:由“外”到“内”智能革命-250306(51页)
大成:2025年全球人工智能趋势报告:关键法律问题(28页)
北京大学:2025年DeepSeek原理和落地应用报告(57页)
欧盟委员会人工智能与未来工作研究报告
加州大学伯克利分校:面向科学发现的多模态基础模型:在化学、材料和生物学中的应用
电子行业:从柔性传感到人形机器人触觉革命-250226(35页)
RT轨道交通:2024年中国城市轨道交通市场数据报告(188页)
FastMoss:2024年度TikTok生态发展白皮书(122页)
CheckPoint:2025年网络安全报告-主要威胁、新兴趋势和CISO建议(57页)
【AAAI2025教程】评估大型语言模型:挑战与方法,199页ppt
《21世纪美国的主导地位:核聚变》最新报告
沃尔特基金会(VoltaFoundation):2024年全球电池行业年度报告(518页)
斯坦福:2025斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191页)
国际科学理事会:2025为人工智能做好国家研究生态系统的准备-2025年战略与进展报告(英文版)(118页)
光子盒:2025全球量子计算产业发展展望报告(184页)
奥纬论坛:2025塑造未来的城市研究报告:全球1500个城市的商业吸引力指数排名(124页)
FutureMatters:2024新兴技术与经济韧性:日本未来发展路径前瞻报告(17页)
《人类与人工智能协作的科学与艺术》284页博士论文
《论多智能体决策的复杂性:从博弈学习到部分监控》115页
《2025年技术展望》56页slides
大语言模型在多智能体自动驾驶系统中的应用:近期进展综述
【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用
皮尤研究中心:2024美国民众对气候变化及应对政策的态度调研报告:气候政策对美国经济影响的多元观点审视(28页)
空间计算行业深度:发展趋势、关键技术、行业应用及相关公司深度梳理-250224(33页)
Gartner:2025网络安全中的AI:明确战略方向研究报告(16页)
北京大学:2025年DeepSeek系列报告-提示词工程和落地场景(86页)
北京大学:2025年DeepSeek系列报告-DeepSeek与AIGC应用(99页)
CIC工信安全:2024全球人工智能立法的主要模式、各国实践及发展趋势研究报告(42页)
中科闻歌:2025年人工智能技术发展与应用探索报告(61页)
AGI智能时代:2025年Grok-3大模型:技术突破与未来展望报告(28页)
上下滑动查看更多


文章作者: ZejunCao
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 ZejunCao !
  目录