HAL９０００とインテリジェントな機能

　ＳＦ映画史上の傑作『 2001: A Space Odyssey』で登場する知能を持つコンピュータは「HAL９０００」。*1
　Heuristically programmed ALgorithmic computerの頭文字だ。宇宙船ディスカバリー号はHAL9000の完全コントロール下にあり、操縦は委ねられるだけでなく乗員は音声で船内外の操作までもHAL9000に音声命令で実施するだけだ。
　映画の結末付近でこのコンピュータが乗員に反逆することになっている。
　最近になって、自動車が自動判断機構を装着するようになっている。人の飛び出しを察知して急停車するのがいい例だろう。
　こうしたインテリジェント機能の実装はソフトウェアでなされている。目下のところの技術的課題は「エラー」つぶしだ。やがては高機能化して自動操縦がスタンダードとなるであろう。
　そこで起きうることは、やはり思わぬエラーによるインテリジェント機能の暴走だ。
人を避けるどころか、人を追いかけてひき殺そうとするようなバグも起こり得ないとは言えない。
　そこで安全性確保のために実施するのは、ボーマン船長がHAL9000に対して行うことと同じなのだ。「機能縮退」と専門用語でいうけれど、インテリジェントな機能を切断する。すなわちＨＡＬの人格を消去するのだ。
　さらに危ない一般化が可能だろう。地球温暖化に代表される現代技術文明の暴走を止めるには、その「インテリジェント」な機能を停止するしかないと。情報通信網を電信とモールス信号までに戻して、コンピュータを撤去するという機能縮退が予防原則としてありえるのだ。
　『 2001: A Space Odyssey』はそこまで見通していたわけである。

2001年宇宙の旅 [DVD]

*1:IBMのずらし文字というのは単なる噂だとクラークは否定している。