意识上传
心灵上传（英語：Mind uploading），或称为意识上传、全脑仿真（Whole brain emulation），是一种科幻技术，该技术可以把人类脑部的所有东西（包括意识、精神、思想、记忆）上传至计算设备（如电脑、量子计算机、人工神经网络）上。该计算设备将能够模拟大脑的运作，如原先的大脑对外界输入作出相应的反应，并拥有一个具备意识的心灵。[1][2][3]
心灵上传有两种潜在的实现方法：复制-转移或神经元逐步替换。第一种方法通过对大脑特征的扫描，将其中贮存的信息复制或转移到电脑或其他计算设备中。这个模拟的心灵可以和一个模拟的三维躯体相连接，并被置入一个虚拟现实或模拟现实中；也可被置入一台连接着机器躯体或生物学躯体的电脑中。[4] 第二种方法则是伴随着逐渐破坏性的上传进行赛博格式的替换，直到原始的有机大脑不再存在并由模拟大脑的计算机程序控制身体。
心灵上传被一些未来学家和超人类主义者视为一种重要的生命延续技术。心灵上传的另一个目标是为人类心灵做永久备份，以使我们能够在全球灾变或星际旅行中存活下来。一些未来学家认为全脑仿真是计算神经科学和神经信息学的“逻辑终点”。[4]人工智能研究领域也将其视为一种实现强人工智能的途径。基于计算机的智能（如一个上传的心灵）的思维速度可能会比一个生物学人类快很多，因而某些未来学家认为一个由上传心灵构成的社会将达到技术奇点，即技术增长突然以更大的指数暴涨。[5]心灵上传是诸多科幻小说和电影的核心概念。
主流科学界、经费提供者和科学期刊目前对心灵上传的可行性持怀疑态度。与此有关的实质性努力包括主流科学界在动物脑测绘与模拟、更快的超级计算机、虚拟现实、腦機介面、连接组学、动态大脑的信息提取方面的研究。[6] 心灵上传的支持者指出，实现心灵上传的许多工具和思路已经存在或正在快速的发展中；然而他们也承认，到目前为止，许多想法还依然是猜测性的，但也拥有工程实现的可能。神经科学家兰道尔·库纳（Randal Koene）成立了一个非盈利组织“碳复制”（Carbon Copies）以促进关于心灵上传的研究。
概述
.svg)
人类大脑拥有约850亿个神经元，每个神经元通过轴突与树突与其他神经元相连接。在神经元相连的地方（突触），信号通过神经递质这种化学物质的释放和吸收而传递。关于人类的心灵，神经科学界已经达成的共识是，人的心灵是神经网络中信息传递过程的涌现性质。
神经科学家指出，最关键的一点是，人主要的精神活动，如学习、记忆、意识，都是在大脑中发生的纯粹的电化学过程。例如，克里斯托夫·科赫和朱利奥·托诺尼在《IEEE综览》中写道：
“意识是自然界的一部分。我们相信它仅建立在数学、逻辑和那些我们目前尚未理解透彻的物理学、化学和生物学中，而不是魔力或其他不属于我们世界的性质。” [7]
心灵上传的概念就建立在这种机械论的世界观上，否认对于人类生命和意识的生机论观点。
一些知名的计算机科学家和神经科学家预言，使用特定方式编程的计算机将拥有思想的能力甚至获得意识。这些科学家包括克里斯托夫·科赫、朱利奥·托诺尼[7]、侯世达[8]、杰夫·霍金斯（Jeff Hawkins）[8]、马文·闵斯基[9]、兰道尔·库纳（Randal A. Koene）[10]、鲁道夫·里纳斯（Rodolfo Llinas）。[11]获得这种程度的人工智能将为心灵上传提供所需的基础。
尽管如此，心灵上传将与一般所指的人工智能有着显著的差别，因为上传的心灵拥有原来人脑的信息并将保留其个人的身份、经历的认知。
许多理论工作者给出了人脑的建模，并对部分或完整的模拟需要的计算能力作出了一些估计。[4]依据这些模型，一些人预计心灵上传在几十年内就能实现，只要摩尔定律能够继续有效。[12]
理论上的益处
永生
理论上，如果我们能将脑中的信息与进程从身体中分离出来，那么我们的心灵就不再受制于个体功能与寿命的局限性。更进一步，脑中的信息甚至能被部分或整个地复制或转移到其他基质（如数字存储设备或另一个大脑）中。这样，从纯粹机械论的视角看，我们减缓甚至完全逆转了这些信息必将消亡的命运。这一倡议最早见于华盛顿大学的生物老年医学专家乔治·M·马丁（George M. Martin）1971年的生物医学文献中。[13]
加速
如果摩尔定律继续有效，那么几十年内，一台超级计算机将能够以比生物学人脑更快的速度在神经元层面模拟大脑的运行。不过，由于目前尚缺乏对模拟所需精度的认识，准确的日期并不好估计。不同人对于何时能模拟一个完整的大脑作出了不同的预言，例如雷蒙德·库茨魏尔预言为2045年；一些预言的时限甚至已经成为过去了。
考虑到人脑中的电化学信号的传递速度大致在150米每秒，而电脑中电信号以光速传播（三亿米每秒），这意味着理论上一个大型并行计算机组中模拟的大脑的思考速度可能能够比我们的人脑快上几百万倍。[14] 不仅如此，神经元在一秒内最多能产生200至1000个动作电位，而2013年的微处理器的时钟频率已达到5.5GHz，[15]这是前者的五百万倍。
然而，人脑中大致包含850亿个神经元以及连接他们的850万亿个突触，[16]利用目前的半导体微处理器技术模拟他们中的任何一个都需要一台今天的超级计算机。如果利用分时系统，所需的计算机的规模能够被大大缩小，但同时运算速度也被降低了。理论上如果让一个计算单元处理一个皮层柱中的所有细胞，那么今天的超级计算机就能模拟出一个哺乳动物脑，不过是在比自然的脑更慢的速度上。[17]
研究进展
多个动物大脑已经被完整测绘，一些已能够被部分模拟。
模拟秀丽隐杆线虫的中枢神经系统
秀丽隐杆线虫的神经回路早在1985年即测绘完成，[18]并在1993年实现了部分的模拟仿真。[19]自2004年以来，数个模拟软件发展了起来，他们能够模拟秀丽隐杆线虫的完整神经系统、肌肉系统、甚至是其与物理环境的交互，一部分软件能够被自由下载。[20][21]即使如此，我们如今依然对这个简单有机体中这些神经元的连接如何产生惊人地复杂的行为缺乏理解。[22]
开放蠕虫计划是一个致力于通过生物逆向工程在电脑中构建出虚拟秀丽隐杆线虫的开源计划，他们目前已经作出了能够重现蠕虫肌肉运动的软件。[23]
模拟果蝇的中枢神经系统
果蝇的神经系统也已经被仔细地研究，并在一定程度上得到了模拟。[24]果蝇的全部神经元的连接的完整测绘有望在近几年内完成。
模拟啮齿动物大脑
2007年，内华达大学的研究组在IBM的“蓝色基因”超级计算机上运行了一组被称为“可以与半个老鼠大脑的复杂度媲美”的人工神经网络。在这项模拟中，一秒的时长需要使用十秒的计算机运行时间。研究者称，他们见到了流过虚拟皮层的“与生物学一致的”神经冲动。不过，这项模拟缺乏真实老鼠大脑中的结构，目前研究者们正在进一步提高其神经元模型的精确性。[25]
蓝色大脑计划是2005年5月由IBM和瑞士联邦理工学院发起的一个项目，其目标是从分子层面用电脑模拟出哺乳动物皮层柱。[26]这项计划在IBM的蓝色基因超级计算机的基础上模拟神经元上突触的电活动以及内膜电流。这项计划的初级目标在2006年12月得到实现，[27]他们模拟了一个老鼠的新皮层柱（neocortical column）——它是新皮层（大脑中负责诸如意识这样的高级功能的部分）的最小功能单元，包含约10000个神经元（和108个突触）。早在1995年至2005年间，亨利·马克拉姆（Henry Markram）已经完成了这样一个皮层柱中神经元类型和连接的测绘。在2007年11月，[28]该计划的第一阶段结束，公布了对这个新皮层柱的创建、验证和研究的过程。2012年9月，[29]蓝色大脑在PNAS上发布的论文给出了指导神经连接组形成的关键规律。[30]这项计划的最终目标是揭示人类认知和精神疾病的面貌，理解药物对神经网络的作用。
争议
哲学问题
“心灵上传”的概念需要的哲学基础是：意识蕴含在大脑的信息处理之中，他的实质是从神经元集群组成的具有高级模式的网络中产生的涌现现象，并且这样的现象能够在其他处理设备中实现。“心灵上传”也要求人类的心灵（包括自我意识、记忆等）仅仅是神经元中通过突触传递的电信号的展现，而不是一个二元论的或神秘主义的灵魂或精神。“心灵”在这里可以被定义为大脑中信息的（非物质的）状态，与一个数据库中的信息或是你电脑内存中正装载的软件是类似的概念。[31] “心灵上传”需要神经元网络的信息状态可以被获取、复制并装载到一个不同的硬件上。[32]这个概念的一个比喻是将一台电脑存储空间中的所有信息复制到另一台电脑中并继续运行，这另一台电脑可能拥有不同的硬件组织但能作出和第一台电脑一致的信息处理。
这个想法已有了很长的历史，在1775年托马斯·里德写道：[33]
“我想要知道……当我的大脑失去了他原有的物质，如果几百年后这些同样的材料被精妙地结合成了一个具有智能的个体，这个个体会不会就是我；或者，当两到三个这样的个体仿照我的大脑被创造出来后，他们会不会都是我。”
许多超人类主义者和奇点主义者寄希望于通过构建一个或多个对他们大脑的复制而摆脱他们的生物学躯体、实现永生。然而，哲学家和超人类主义者苏珊·施耐德认为这只会制造一个原先的心灵的复制品。[34]苏珊·施耐德也认同意识以计算为基础，但这不意味着我们能够上传并存活下去。“上传”很可能导致原先的人的死亡，仅仅是一个另外的观察者会认为原先的人依旧活着。其原因是我们无法想象一个人的意识能够离开我们的大脑并被传送到一定距离外——其他宏观世界的物体都不具有这样的行为。我们最多只是得到了一个原先心灵的计算复制品。[35][36]不过佛教超人类主义者詹姆士·休斯指出，这种顾虑并不重要：如果我们相信自我只是一个幻象，那么在上传之时就无须担心我们能否存活。[37]
心灵上传的另一个潜在的结局是“上传”只会构建出一个没有心灵的活动机器，而不是一个有意识的心灵（见哲学僵尸）。[38][39]我们能仅仅通过其表现出高度智能的行为断言一个上传品具有意识吗？我们能确信一个坚称自己有意识的上传品具有意识吗？[40]有没有一个绝对的运算速度极限，超过它则意识不能存在？意识的神秘性与主观性不允许我们对这些问题有一个确定的答案。[41]因为意识固有的主观性（见唯我论），相当多的科学家，包括雷蒙德·库茨魏尔，相信一个独立实体的意识是本质上不可知的。与此相反，也有一些科学家，如罗杰·彭罗斯（Roger Penrose），认为意识是一种依赖于基质的量子现象（见量子心灵）。[42][43][44]
为化解是否将上传产物视为有意识的难题，安德斯·桑德伯格（Anders Sandberg）提出了一个构想：[45]
最大认同原则（Principle of assuming the most）：我们认同一个模拟系统将与原系统拥有同样的精神特质并等同视之。
利用外部皮层是另一种可能的心灵上传的方式，据此一个人的心灵逐步地、分部地从一个衰老的生物学大脑转移到外部皮层上。[3]
伦理与法律问题
开发这样的模拟技术提出了与动物福利、人工意识相关的伦理问题。[45]发展全脑仿真所需的神经科学领域的研究需要做动物实验，从无脊椎动物、到小型哺乳动物、最后到人类。有时，实验仅仅需要对动物扫描他们的大脑，但有时活体行为研究和活体测量也是有必要的，这可能给动物带来痛楚。[45]
不仅如此，在一些对于意识的理解中，模拟的动物也可能承受痛苦。[45]班克罗夫特（Bancroft）指出：[46]
如果一个对大脑足够精细的计算模拟可以行为上等同于一个有机的大脑，其后果是我们必须考虑扩大伦理的范畴，保护这些模拟动物以免受痛苦的折磨。
发展对于这些虚拟心灵的麻醉术是一个可能的避免痛苦的方法。然而，一些实验可能要求使用一个全体功能都在运作的模拟动物。模拟动物们也可能为我们的偶然失误或了解不足而承受痛苦。[45]部分大脑的模拟也同样面临着道德上的质疑，与此类似的还包括仿照生物学大脑而构建的仿生模型。[46]
仿真大脑可以被病毒或恶意软件轻易删除，因为这不再需要对硬件的直接破坏。这会使得谋杀更加容易，攻击者可能以此而将空出的计算能力据为己有。[47]
仿真品的法律地位有面临许多问题。[48]他们应被给予生物学人类的权力吗？如果一个人制作了他自己的仿真复制品再死去，这个仿真品能够继承他的财产和官职吗？仿真品能够要求终结他那已经重病或昏迷的生物学个体吗？作为母本的生物学个体是否应当像对待青春期的孩子一样对待其仿真品，即对其保留部分的控制权？罪犯的仿真品可以被执行死刑吗，或是通过强制的数据修改使其“重生”？一个上传者拥有婚姻权与监护权吗？[48]
政治与经济问题
对模拟世界的向往也可能会滋生战争、不平等、权力更迭，人们竞相争取第一个造出模拟世界，然后在真实世界与模拟世界中采取先发制人的攻击。模拟世界中也可能蔓延着种族主义、排外、宗教偏见造成的苦难。[47]
如果一个模拟社会的运行速度远超出人类社会，面临问题时现实人类可能没有足够的时间来作出明智的决定或有效的协商，现实人类可能采取暴力手段对付实力迅速增长的模拟社会。[47]
流行文化
- 英剧《黑镜》：第三季的第四集《圣朱尼佩洛》，看上去剧中的两位女主角Yorkie和Kelly是在名为“圣朱尼佩洛”的小镇中相爱，实际上她们的意识位于云端服务器中。
- 美剧《上载人生》
- 英国科幻片《绝密档案》
- 中国科幻片《流浪地球2》
- 獨立遊戲《SOMA》
参见
参考文献
- ^ 存档副本 (PDF). [2014-10-16]. （原始内容 (PDF)存档于2019-04-30）.
- ^ http://www.worldscientific.com/doi/pdf/10.1142/S1793843012020015
- ^ 3.0 3.1 存档副本 (PDF). [2014-10-16]. （原始内容存档 (PDF)于2017-10-28）.
- ^ 4.0 4.1 4.2 Sandberg, Anders; Boström, Nick. Whole Brain Emulation: A Roadmap (PDF). Technical Report #2008‐3. Future of Humanity Institute, Oxford University. 2008 [5 April 2009]. （原始内容 (PDF)存档于2020-03-25）.
The basic idea is to take a particular brain, scan its structure in detail, and construct a software model of it that is so faithful to the original that, when run on appropriate hardware, it will behave in essentially the same way as the original brain.
- ^ Goertzel, Ben. Human-level artificial general intelligence and the possibility of a technological singularity: a reaction to Ray Kurzweil's The Singularity Is Near, and McDermott's critique of Kurzweil. Artificial Intelligence. December 2007, 171 (18, Special Review Issue): 1161–1173 [2014-10-16]. doi:10.1016/j.artint.2007.10.011. （原始内容存档于2021-01-30）.
- ^ Kay KN, Naselaris T, Prenger RJ, Gallant JL. Identifying natural images from human brain activity. Nature. March 2008, 452 (7185): 352–5. Bibcode:2008Natur.452..352K. PMC 3556484
. PMID 18322462. doi:10.1038/nature06713.
- ^ 7.0 7.1 Koch, Christof; Tononi, Giulio. Can machines be conscious?. IEEE Spectrum. 2008, 45 (6): 55. doi:10.1109/MSPEC.2008.4531463.
- ^ 8.0 8.1 IEEE Spectrum Special Report on the Singularity. [2014-10-16]. （原始内容存档于2009-05-01）.
- ^ Marvin Minsky, Conscious Machines, in 'Machinery of Consciousness', Proceedings, National Research Council of Canada, 75th Anniversary Symposium on Science in Society, June 1991.
- ^ MindUploading.org. [2020-10-10]. （原始内容存档于2020-09-28）.
- ^ Llinas, R. I of the Vortex: From Neurons to Self. Cambridge: MIT Press. 2001: 261–262. ISBN 0-262-62163-0.
- ^ Ray Kurzweil,Live Forever–Uploading The Human Brain...Closer Than You Think 互联网档案馆的存檔，存档日期2008-01-28., Psychology Today, February 2000.
- ^ Martin GM. Brief proposal on immortality: an interim solution. Perspectives in Biology and Medicine. 1971, 14 (2): 339. PMID 5546258.
- ^ 存档副本 (PDF). [2014-10-16]. （原始内容 (PDF)存档于2014-10-26）.
- ^ IBM zEC12: The Third-Generation High-Frequency Mainframe Microprocessor, doi:10.1109/MM.2013.9
- ^ Frederico A. C. Azevedo, Ludmila R. B. Carvalho, Lea T. Grinberg, José Marcelo Farfel, Renata E. L. Ferretti, Renata E. P. Leite, Wilson Jacob Filho, Roberto Lent, Suzana Herculano-Houzel. Equal numbers of neuronal and nonneuronal cells make the human brain an isometrically scaled-up primate brain. The Journal of Comparative Neurology. 2009-04-10, 513 (5): 532–541 [2019-02-12]. ISSN 1096-9861. PMID 19226510. doi:10.1002/cne.21974. （原始内容存档于2019-01-18）.
- ^ Johansson C and Lansner A., Towards cortex sized artificial neural systems. Neural Networks, 20: 48‐61, 2007
- ^ Chalfie, M., Sulston, J. E., White, J. G., Southgate, E., Thomson, J. N., and Brenner, S. (1985). The neural circuit for touch sensitivity in Caenorhabditis elegans （页面存档备份，存于互联网档案馆）" The Journal of Neuroscience 5(4) 956–96.
- ^ Niebur, E. and Erdos, P. (1993). Theory of the locomotion of nematodes: Control of the somatic motor neurons by interneurons （页面存档备份，存于互联网档案馆）. Mathematical Biosciences, 118(1) 51–82.
- ^ Bryden, J. and Cohen, N. (2004). A simulation model of the locomotion controllers for the nematodode Caenorhabditis elegans. In Schaal, S., Ijspeert, A., Billard, A., Vijayakumar, S., Hallam, J., and Meyer, J.-A., editors, From Animals to Animats 8: Proceedings of the eighth international conference on the Simulation of Adaptive Behaviour, pages 183–192.
- ^ Mark Wakabayashi 互联网档案馆的存檔，存档日期2013-05-12., with links to MuCoW simulation software, a demo video and the doctoral thesis COMPUTATIONAL PLAUSIBILITY OF STRETCH RECEPTORS AS THE BASIS FOR MOTOR CONTROL IN C. elegans, 2006.
- ^ 存档副本. [2014-10-16]. （原始内容存档于2021-01-30）.
- ^ 存档副本. [2014-10-16]. （原始内容存档于2014-10-20）.
- ^ Arena, P.; Patane, L.; Termini, P.S.; An insect brain computational model inspired by Drosophila melanogaster: Simulation results （页面存档备份，存于互联网档案馆）, The 2010 International Joint Conference on Neural Networks (IJCNN).
- ^ Mouse brain simulated on computer. BBC News. 27 April 2007 [2014-10-16]. （原始内容存档于2017-08-25）.
- ^ Herper, Matthew. IBM Aims To Simulate A Brain. Forbes. June 6, 2005 [2006-05-19]. （原始内容存档于2006-05-18）.
- ^ Project Milestones. Blue Brain. [2008-08-11]. （原始内容存档于2023-02-10）.
- ^ News and Media information. Blue Brain. [2008-08-11]. （原始内容存档于2008-09-19）.
- ^ THE BLUE BRAIN PROJECT Timeline. Blue Brain. [2014-10-17]. （原始内容存档于2014-10-25）.
- ^ The Emergent Connectome. The Blue Brain Project accurately predicts connections between neurons.. Blue Brain. [2012-09-18]. （原始内容存档于2012-09-21）.
- ^ 存档副本. [2014-10-16]. （原始内容存档于2014-09-06）.
- ^ 存档副本 (PDF). [2014-10-16]. （原始内容存档 (PDF)于2014-08-11）.
- ^ 存档副本. [2010-04-18]. （原始内容存档于2014-04-13）.
- ^ Schneider, Susan. The Philosophy of 'Her'.. The New York Times. March 2, 2014 [May 7, 2014]. （原始内容存档于2014-10-25）.
- ^ Schneider, Susan. The Philosophy of 'Her'. The New York Times. March 2, 2014 [May 7, 2014]. （原始内容存档于2014-10-25）.
- ^ Wiley, Keith. Response to Susan Schneider's "Philosophy of 'Her". H+Magazine. March 20, 2014 [7 May 2014]. （原始内容存档于2014-10-26）.
- ^ Hughes, James. Personal Identity and Uploading. Wiley. 2013 [2014-10-16]. （原始内容存档于2013-10-11）.
- ^ 存档副本. [2014-10-16]. （原始内容存档于2015-03-01）.
- ^ 存档副本. [2014-10-16]. （原始内容存档于2014-12-21）.
- ^ 存档副本 (PDF). [2014-10-16]. （原始内容存档 (PDF)于2014-01-03）.
- ^ 存档副本 (PDF). [2014-10-16]. （原始内容存档 (PDF)于2013-10-19）.
- ^ 存档副本. [2014-10-16]. （原始内容存档于2014-06-30）.
- ^ 存档副本 (PDF). [2014-01-03]. （原始内容 (PDF)存档于2013-08-27）.
- ^ 存档副本 (PDF). [2014-01-03]. （原始内容 (PDF)存档于2012-09-06）.
- ^ 45.0 45.1 45.2 45.3 45.4 Anders Sandberg. Ethics of brain emulations. Journal of Experimental & Theoretical Artificial Intelligence. 14 Apr 2014, 26 (3): 439–457 [29 June 2014]. doi:10.1080/0952813X.2014.895113. （原始内容存档于2017-12-02）.
- ^ 46.0 46.1 Tyler D. Bancroft. Ethical Aspects of Computational Neuroscience. Neuroethics. Aug 2013, 6 (2): 415–418. ISSN 1874-5504. doi:10.1007/s12152-012-9163-7.
- ^ 47.0 47.1 47.2 Peter Eckersley; Anders Sandberg. Is Brain Emulation Dangerous?. Journal of Artificial General Intelligence. Dec 2013, 4 (3): 170–194 [2014-10-16]. ISSN 1946-0163. doi:10.2478/jagi-2013-0011. （原始内容存档于2014-11-11）.
- ^ 48.0 48.1 Kamil Muzyka. The Outline of Personhood Law Regarding Artificial Intelligences and Emulated Human Entities. Journal of Artificial General Intelligence. Dec 2013, 4 (3): 164–169 [2014-10-16]. ISSN 1946-0163. doi:10.2478/jagi-2013-0010. （原始内容存档于2014-11-11）.
外部链接
- MindUploading.org （页面存档备份，存于互联网档案馆）
- Adee, Sally. Reverse engineering the brain. IEEE Spectrum. June 2008, 45 (6): 51–55 [2014-10-16]. doi:10.1109/MSPEC.2008.4531462. （原始内容存档于2014-02-03）.
- Reverse-engineer the brain （页面存档备份，存于互联网档案馆） from National Academy of Engineering
- The Duplicates Paradox by Ben Best; theories about the problem of personal continuity
- Joe Strout's Mind Uploading Home Page （页面存档备份，存于互联网档案馆）
- "The Day You Discard Your Body" （页面存档备份，存于互联网档案馆） by Marshall Brain
- Winter of our Consciousness （页面存档备份，存于互联网档案馆）, article in The Future Fire 3
- Reality 3.0: Uploading, Hypermediation & Paradise Engineering by Paul Hughes
- Reality 3.0: Uploading, Hypermediation & Paradise Engineering by Paul Hughes
- Links on uploading （页面存档备份，存于互联网档案馆） from Anders Sandberg
- Transhumanist writings on uploading （页面存档备份，存于互联网档案馆） from the Foresight Institute
- Reverse Engineering The Brain from IEEE Spectrum
- Whole Brain Emulation: A Roadmap （页面存档备份，存于互联网档案馆） by Anders Sandberg and Nick Bostrom, from the Future of Humanity Institute
| ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| ||||||||||||||||||||||||||||||||
| |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||