「我……没有做错事。」
从她的语气中，我感觉到缺乏自信，心中霎时涌现一个疑问：真的是她做的吗?难不成发生了什么异常情形，突然令她动怒了吗?
「我要告你们!」伊势崎老爷爷怒气冲冲地说。「使用这种危险的机器，你们所有人都要负责!」
「伊势崎先生，你适可而止吧。」
听到这个声音，我们回过头去。不知不觉间，小森老爷爷在床上坐起了身子。
「你做那种事情觉得有趣吗?居然嫁祸给机器人。」
「什么?!」
「你太粗心大意了，以为我在睡觉，没有人看到，对吧?很遗憾，我看到了。你一面大吼，一面故意跌倒，诗音拼命地试图搀扶你唷。」
伊势崎老爷爷的脸色苍白。小森老爷爷面露捉弄人的笑容，接着说：「你要告人吗?试试看啊。我会当老养院这一边的证人，说我亲眼看到你故意跌倒。你毫无胜算。」
伊势崎老爷爷瞪大眼珠子，嘴巴像金鱼般一开一阖。小森老爷爷不理他，对桶屋小姐说：
「护士小姐。能不能替我换房间?和这种下流的人呼吸同一个房间的空气，有害身体健康。」
「……我们会讨论的。」
桶屋小姐话一说完，双手叉腰，俯看伊势崎老爷爷。
「伊势崎老爷爷，我们的忍耐也是有限度的。下次再做这种事，我们会考虑强制让你离院。」
我不晓得就规则而言，强制让入住老人离院这件事是否可行，起码我没有听过那种先例。不过，这句恐吓好像对伊势崎老爷爷起了作用。他在我们轻蔑的视线之中，颓然地垂头丧气，身影看起来比平常小了许多。
「诗音，我们走吧。」
我牵着诗音的手，正准备离开房间时，她反抗了我。
「诗音?」
她好像没有听见我的声音，甩开我的手，马上一步一步地走向伊势崎老爷爷。她跪在床旁边，一副匪夷所思地从下往上盯着他的脸，使他尴尬地别开视线。
「伊势崎老爷爷……」
她轻轻地呼喊。
「诗音，别理他!」
我严肃地命令她，但是诗音仍旧不为所动。她纯洁无瑕的玻璃瞳孔，目不转睛地仰望老人。
「伊势崎老爷爷，请你告诉我，你为什么要做这种事呢?」
「诗音!」
「你为什么要做这种事呢?」
她的语气中，不带有责难、轻蔑或斥责。她只是纯粹想知道，伊势崎老爷爷那个行为的意义。
伊势崎老爷爷不肯回答。
下一个星期五，我告诉鹰见先生这件事，询问我从以前就感到怀疑的一件事。第一天，诗音问：「你是女性吗?」她拥有思考人类给予的资料可能有误的能力。那是高智慧的表征，同时也意谓着她能够否定人类教她的事。实际上，她正在学习不要无知地相信阿兹海默症患者的话。
而在那个事件当中，她漠视了我的「别理他」这个命令。
「设式中并没有设定她要遵从我的指示，对吧?只是你指示她那么做而已。」
「是的。」
「那她今后也有可能会不遵照我的指示?」
鹰见不情不愿地点了点头。「有可能——如果累积学习，思考能力进化的话，可以充分预料到，她会思考自己的判断是否比人类的指示更正确。」
「那也没人能保证，她会以入住老人的安全为第一考量罗?」
鹰见先生不肯回答。
「请你坦白说。怎么样呢?如果她认为有什么比入住老人的安全更重要的话，她也会让入住老人面临危险吗?」
「我不能断定……」他痛苦地说，「这个可能性是零。」
「你隐瞒了我，对吧?」
「不，我一开始应该就说明过了，诗音并不是百分之百安全。」
「可是，你说过：『她会以被看护者的安全为第一优先判断』，对吧?既然这样，一般人都会认为，诗音被设定了那样的程式。」
「假如造成了你的误会，我道歉。」
「你也要把这件事推到缺乏沟通能力上头吗?」
连我自己也觉得这种说法带刺，我们之间的气氛又变得尴尬。但是，他欺骗我们是事实。
「可是，她的行动经常是有逻辑的，不会毫无道理地伤害人类……」
「你不懂。这里有些人的死期将近，脱口说出『希望早点死』的人并不罕见，要是诗音当真的话怎么办?假如她基于逻辑判断，杀害老人家是正确的话怎么办?」
鹰见先生的表情变得黯淡。
「这……是的……我不敢说不可能。」
「因应对策呢?」
「大概只能教她生命的可贵以及道德观等事了。不是命令她『不可以伤害人』，而是必须由她自发性地那么认为。」
「你的意思是，这必须由我教她，是吗?」
「欸，我想是的。」
我又感到一阵晕眩。「为何不可以杀人」这个问题连要教人类的小孩都很困难，他却说我必须教机器人。明明光是教她幽默感就令我煞费苦心了。
但是我没有退路。即使是逞强，我也想把诗音培养成独当一面的看护。可能对机器人投入太多感情?或许是那样没错。但是，我绝对不希望她杀人。那对老人家而言很危险，对她来说也是个悲剧。