诸事不宜。）之日举行婚礼，对吧？明明在那天结婚也不会发生什么坏事，但是人们却试图避免不可能存在的风险。

「总而言之，人类其实是以自由心证判断风险，不是靠逻辑，而是看心情；不是靠机率或数据，而是靠主观划分要忽视或重视的风险。为了避免框架问题，只能这么做。不要一一计算机率，而是适度地忽略自己不在意的事——为了让机器人学习『适度』这个概念，花了不少时间。」

我有点吃惊。「呃，这么说来，贵公司的机器人……」

「她叫诗音。」

「您的意思是，诗音会适度地忽略危险吗？」

「正是。」

霎时，室内一片哗然。

「我希望各位理解的是——」

鹰见先生毫不畏缩，抬头挺胸地说。

「世上没有百分之百安全的事物。当然，我们的技术人员会努力尽可能地提高安全性，可是我们做不出绝对不会坠落的飞机，做不出绝对安全的药物。百分之百安全这种概念是幻想。只能在某种程度上妥协。如果要排除有一丁点危险的产品，我们的周围几乎不会剩下任何事物，会开倒车回到原始时代——当然，原始时代的生活比现在更危险许多就是了。

「我们并不主张诗音百分之百安全，但我确信她百分之九九点九九安全，却无法断定不会发生万一的意外。恕我失礼，各位不也是如此吗？即使是由人类看护，经常也有可能发生意想不到的意外。情况就和那一样。

「这是从以前就为人熟知的问题。人工智慧之父——艾伦·麦席森·图灵，于一九四六年说了这句话：『假如某台机器绝对不会犯错，那种机器就不是智慧型机器』——正因是智慧型机器，所以能够做到一般机器所做不到的事，结果犯了错。

「诗音的有用性——理解人类含糊的指示，应对紧急情况的能力是指回避框架问题的能力，那和忽视某种风险是一体两面的。绝对不冒险的机器人，是不会动的机器人，虽然安全，但是派不上用场。诗音派得上用场，正因如此，才会伴随着风险。」

这在理论上大概是正确的。他据实以告，可以证明他的诚实——可是，感情上无法立刻接受。

「我打个比方，」桶屋小姐以挑衅的表情，瞪视鹰见先生。「假如那台机器人因为某种故障而失控的话会怎么样？她的力量比人类大吧？」

「是的。但是那种像从前的漫画中出现的情况不太可能发生，万一发生的话，最好不要靠近她，可以从远方发送停止码。」

「停止码？」

「用于紧急停止的

为优化阅读体验，本站内容均采用分页显示，请点击下一页继续阅读！ 第7页 / 共38页