ここで、一つのたとえ話を紹介したい。
とある職業の中で、顧客のデータを使って表計算を行う作業があるとする。この作業を自動化するために、表計算ソフトであるMicrosoft Excelを使って、プログラムを書くとする。
短調な作業であれば、プログラムを書く手間も、それほど時間をかけずに済んでしまうかもしれない。弱い弱い人工知能（プログラム）は、こうして作られる。さて、そうやって作った弱い人工知能（プログラム）を、一度使い終わった後、しばらく使わずに放っておこう。すると、何が起こるだろうか。
一年後、同じような作業を実施する状況がやってきた。同じお客様から「この表計算をお願いしたい。やり方は、一年前と同じで」という依頼が来たのだ。
一年前は、プログラムを一から書く必要があったので、それなりに苦労を伴ったが、今回は楽だ。同じプログラムを動作させれば良いのだ。なんという簡単な作業であることか。こんなもの、一秒で終わらせてしまおう。さて、こんな風にタカを括って、プログラムを動かしてみて、このプログラマーは愕然とする。
「プログラムが動かない！！」
よくよく見ると、顧客のデータのフォーマットが微妙に変わってしまっており、一行下にずれているのだ。人間なら、気にする必要がない程の（寧ろ気づかずに作業を続けてしまう程の）、微妙なフォーマットの変化である。
しかし、機械にとっては大問題である。プログラムには、「この行のデータを計算せよ」という命令が書き下されている。にも関わらず、指定された行には、データがないのである。
そして、このプログラマーには、「プログラムを修正する」という新たな作業が発生する。もちろん、これ自体は、それほど負荷の高い作業ではないが、人間不在の「弱い人工知能」だけでは、「何もできない」状況であり、人間は、確実に必要なのである。
すなわち、表計算という極めて単純な作業であっても、人間が管理することなしに、人工知能だけでそれを実施することは不可能なのである。
こうした、人間にしかできない「作業」というものは、筆者のように、事務作業が不得手な人間にとっては「頭を悩ませた経験」から、よくよく理解できるものなのだが、いかんせん、こうした「作業」を無意識レベルでこなしてしまう有能なビジネスマンには、なかなか理解していただくのが難しいのかもしれない。
