「这是从以前就为人熟知的问题。

人工智慧之父‐‐艾伦&iddot;麦席森&iddot;图灵，于一九四六年说了这句话：『假如某台机器绝对不会犯错，那种机器就不是智慧型机器』‐‐正因是智慧型机器，所以能够做到一般机器所做不到的事，结果犯了错。

「诗音的有用性‐‐理解人类含糊的指示，应对紧急情况的能力是指回避框架问题的能力，那和忽视某种风险是一体两面的。

绝对不冒险的机器人，是不会动的机器人，虽然安全，但是派不上用场。

诗音派得上用场，正因如此，才会伴随着风险。

」

这在理论上大概是正确的。

他据实以告，可以证明他的诚实‐‐可是，感情上无法立刻接受。

「我打个比方，」桶屋小姐以挑衅的表情，瞪视鹰见先生。

「假如那台机器人因为某种故障而失控的话会怎么样?她的力量比人类大吧?」

「是的。

但是那种像从前的漫画中出现的情况不太可能发生，万一发生的话，最好不要靠近她，可以从远方发送停止码。

」

「停止码?」

「用于紧急停止的密码。

因为去拿摇控器要花时间，说出密码比较快。

让诗音听到这个，她就会紧急停止。

」

「哪种密码呢?」

「klaatubaradanikto（卡拉阿图巴阿答尼克托）。

」

「什么?」

鹰见先生咧嘴一笑。

「从古至今，让失控的机器人听话的暗号一律都是这个。

而且，这不是日常生活中会说的话，所以也不可能在聊天的过程中不小心使她停止。

但平常请绝对不要使用。

」

「是……」