--原子力についてですね?
原子力についての話ですが、原子力だけではなく、原子力を利用する兵器についてもお話しています。これらの「宇宙の秘密」を良い方に、あるいは悪い方に解き放つのは、わたしたちの能力なのです。
--それで?
そして当時、何かを実行する能力があったとしてもそれを行うべきかどうかという趣旨の激しい議論があり、今なお結論は出ていません。ソフトウェアシステムについても同じ議論が当てはまります。
--しかしこれらは技術的な問題なのではないでしょうか?
違います。
--しかしモラルとは関係ないと思いますが?
モラルの問題がこの(開発面での)重要性を増していく段階について話そうとしているのです。それは、システムを構築できるかどうかとか、構築したいかどうかだけが問題になるのではなく、構築すべきかどうかも問題になるような段階です。
例えばロンドンでは、街頭に設置する面積当たりのビデオカメラの数を他のどこよりも多くしようとしています。確かに、あまり多くのソフトウェアが使われているわけではありません。しかし、顔認識ソフトウェアとカメラを組み合わせて、市内を移動する個人を実際に追跡できるようになったらどうでしょう。
--でもそれは、ソフトウェア開発者に向けられた疑問ではなく、ロンドン市側が必要性に基づいて検討することではないでしょうか?
ええ、しかし最後の段階で、ソフトウェア開発者は「人権を侵害する可能性があるシステムを本当に構築したいのだろうか」と問えるのです。