あとがきたちよみ
『未来技術の倫理』
あとがき、はしがき、はじめに、おわりに、解説などのページをご紹介します。気軽にページをめくる感覚で、ぜひ本の雰囲気を感じてください。目次などの概要は「書誌情報」からもご覧いただけます。
河島茂生 著
『未来技術の倫理 人工知能・ロボット・サイボーグ』
→〈「序章 求められる先端技術の倫理 第1節」、「第1章 AI・ロボット・サイボーグに対する社会的眼差しの変化と夢 第1節」、「第2章 人間と機械との同質性と異質性のはざま 第1節」、「第3章 AI倫理の基底 第1節」、「第4章〈社会─ 技術〉システムおよび人間という自律的・他律的二重体 第1節」（pdfファイルへのリンク）〉
→〈目次・書誌情報・オンライン書店へのリンクはこちら〉
序章 求められる先端技術の倫理
1 社会を覆う工学的技術
人工知能（Artificial Intelligence、以下ＡＩ）、ロボット、サイボーグ。こうした言葉が登場して久しい。よく知られている通りＡＩという語は、一九五六年のダートマス会議のためにジョン・マッカーシー（John McCarthy）によって生み出された造語であり、そのときからすでに六〇年以上が経過している。一方、ロボットは、カレル・チャペック（Karel Čapek）が一九二〇年に発表した戯曲『R. U. R.』が語の端緒とされており、もともと「労働」「隷属」を意味する語「robota」から来ている。二〇二〇年は、ロボットという語が生まれてからちょうど一〇〇年であった。サイボーグという語については、「サイバネティック・オーガニズム」（cybernetic organism）の略であり、いまから六〇年ほど前の一九六〇年にマンフレッド・クラインズ（Manfred Clynes）とネイザン・クライン（Nathan Schellenberg Kline）が生物と機械とのハイブリッドを言い表すために創り出した言葉である。
こうした言葉が生まれて以降、個々の技術が高度化しただけでなく、技術が互いにネットワーク化し、いまの技術にすぐさま別の新たな技術が加わるかたちで連鎖してきている。今後その傾向はますます強まっていくだろう。これからの未来を考えるにあたっては、「グローバリゼーション」「地球環境」「人口」などと同じく、「技術」的要素を見過ごすわけにはいかない。
技術はメディアであり、人と人とのコミュニケーションを媒介し、また人間の認知や身体の能力を拡大することで人と世界との間を媒介する。その媒介の作用とともに、コミュニケーションのありかたが変わり、ひいては社会が変わる。また、世界観も変わっていく。
技術の社会的影響は大きくなってきた。工学的技術は、社会の隅々にまで入り込んでいる。蛇口をひねると水が出てくるのは、建物や地中に水道管がはりめぐらされているからである。スイッチを押せば照明がつくのは、発電所や変電所、送電線といった社会的インフラが整えられているからだ。それだけでなくガス管や鉄道網、道路網、電話網、光ファイバー網にも覆われている。あちこちに基地局があり、人間の裸眼には映らないものの、テレビやラジオの電波はもちろん、無線ＬＡＮやBluetooth、携帯電話の電波が飛び交っている。センサーがさまざまなモノに埋め込まれ、スマートフォン（以下、スマホ）だけでも加速度センサーやジャイロセンサー、照度センサー、ＧＰＳセンサーなどが搭載されている。そうした工学的技術が使えなくなったら、私たちはたちまち混乱に陥る。きれいな水も飲めず、スマホも使えない。新型コロナウイルス感染症（COVID─19）の拡大を防ぎながらオンラインで会議ができるのも工学的技術があってこそである。
技術は無色透明ではない。開発者だけではなく広く社会のなかで形成されてその姿を変えながら、社会を導いていく存在物である。したがって、技術をいかに開発し利活用していくかは私たちに託されている重要な課題である。技術が及ぼす悪影響については誰もが一度は耳にしたことがあるだろう。私たちは、工学的技術が遍在している社会のなかで、技術を全面的に否定することもできなければ全面的に肯定することもできない。技術に対して諾否を同時にいわなくてはならないのだ。
そのためには技術の倫理を思考していく必要がある。倫理（ethics）は、「～してはならない」という戒めとイコールではない。語源としては「習慣」（ethos）という意味であり、日本語でも「なかま、秩序」を意味する「倫」という語と「ことわり、すじ道」を意味する「理」の語の組み合わせからできている（和辻、1934＝2007）。したがって、倫理を考えることは秩序や歩む道を熟思することである。いかに秩序を形成していくかと問い続けることだ。これまでも技術によって倫理的議論が引き起こされてきた。というのも、新しい技術によってこれまでの慣習とは違った局面が現れるからである。免疫抑制剤が開発されてはじめて、ある人の臓器を別の人の臓器として使うことが是か非かという議論になり、超音波検査等が開発されてはじめて出生前診断が是か非かという議論になった。ネオ・サイバネティクスの鼻祖ハインツ・フォン・フェルスター（Heinz von Foerster）は、選択肢の数を増やすように行動することが倫理的であると評した（Foerster, 1991）。技術によって選択可能な領域が増える代わりに、いかなる選択をすべきかの判断が私たちに委ねられるようになっている。出生前診断が胎児に対してできるようになったことにより、親は、その検査をするか否か、検査をしてダウン症や二分脊椎症などを患っている可能性が高いと判断された場合はどうするかといった倫理的な判断が求められるようになった（Verbeek,2011＝2015）。きわめて厳しい選択である。
コンピュータ技術も同様である。次々と技術開発が進み普及することで、コンピュータ倫理・情報倫理が問われてきた。特にＡＩは、しばしば第三次ブームを迎えていることが指摘されてきている。国内外を問わず、企業がＡＩの開発に力を注ぎ、その成果が話題に上ることが多い。ディープラーニング（深層学習）によってコンピュータが自動でさまざまな事象の特徴量（素性）を抽出することで、画像認識・音声認識の精度が大幅に高まり、運動にまで応用されるようになってきた。囲碁のコンピュータプログラムAlphaGo は、人間の最高の棋士との対戦に相次いで勝利した。IBM Watson は、クイズ番組『ジェパディ！』で人間を負かして耳目を集め、コールセンター業務や就職活動支援だけでなく、医療診断にも応用されており膨大な論文を解析し病名候補を算出している。人間がハンドルを握らない自動運転車をめぐる研究開発も活発である。またＡＩとあわせて、センサーやアクチュエーターがついたロボットについて見聞きすることも増えてきている。Pepper やＭＥＥＢＯのような人型ロボットやＡＩＢＯやパロのような動物型ロボットも、社会のなかに入ってきた。政府も積極的な動きを見せており、ロボット革命実現会議を設置して「ロボット新戦略」を打ち出した（ロボット革命実現会議、2015）。そこでは、日本は産業用ロボットで世界一の座を維持してきたが、これからは小型で汎用性を備えたロボットを作り出さなければならず、そのための戦略が練られている。さらに国内外を問わず、ＡＩやロボットにまつわる法制度の議論も活発化してきた。ＡＩやロボットは、着実にさまざまな領域に広がりいまなお多様な展開を見せている。
絶え間ない自動化はとどまるところをしらない。量子コンピューティングにより、これまでのコンピュータでは計算に時間がかかってできなかった組み合わせ最適化の処理が可能となる。顧客の行動を分析するための変数を増やせば増やすほどレコメンデーションする商品・サービスの組み合わせが膨大になり、従来のコンピュータでは時間がかかってしかたがない。しかし、量子コンピューティングでは多数の変数を組み込んだレコメンデーションが可能となり、人々のニーズに合った精度の高いレコメンデーションが瞬時に実行できることが期待される。コンピュータ・シミュレーションでも同じだ。分子のシミュレーションは、ごく単純化されて行われているが、今後量子ビットが増していけば、低分子化合物や高分子化合物のシミュレーションが可能となると見込まれる。材料のシミュレーションであれば、混入物や欠陥があっても一定の硬さや光学的性能、熱的性能が保たれるように複数の解の候補を出力できる。局所的な最適化だけでなく、より広い範囲・より多くのケースでの最適化が図られるようになるだろう。
（以下、本文つづく。注、傍点は省略しました。）
第1章 AI・ロボット・サイボーグに対する社会的眼差しの変化と夢
1 新聞記事数に見る社会的関心の経時的変化
ＡＩやロボット、サイボーグに向けられる社会的な想像力はどのようなものだっただろうか。本章では、日本の社会の大きな動向に言及しつつ、日本の新聞記事を分析してＡＩ等に対する語られかたを検討する。
二〇一四年以降、ＡＩは、一九五〇年代後半から一九六〇年代の第一次ブーム、一九八〇年代の第二次ブームに続く、第三次ブームを迎えたといわれている。ＡＩ技術をめぐって熱狂的ともいえる状況が起きた。いうまでもなく、ブームという語はその人気が一過性であることを意味に含んでいる。しかしたとえブームが去ったとしても、ＡＩは着実に社会に普及すると予想される。事実、二〇一八年をピークとして新聞記事数は次第に少なくなっている。しかしデジタルデータの増大はとどまるところをしらず、コンピュータの計算資源も増加の一途をたどっており、それらをもとにしたＡＩ等も適用範囲を次第に広げていくだろう。
そうしたなかで、技術的水準ではなく社会的風潮ともいうべきレベルで、過去の第一次・第二次ブームと現在進行している第三次ブームとの比較を行う必要があるのではないだろうか。それがこの第三次ブームの言説をＡＩの六〇年間以上にわたる時間的奥行きのなかに位置づけ、過去との関係のなかで第三次ブームのＡＩを見つめることにつながるのではないだろうか。またＡＩとあわせて、センサーやアクチュエーターがついたロボットについて見聞きすることも増えてきている。日本は長らくロボット大国として知られてきたが、ＡＩの第三次ブームに合わせてさらなる注目を浴びているように感じられる。
ＡＩやロボットについての研究の大半は最新技術に関する論文であり、その基礎技術や応用範囲をめぐる課題に関する内容が多い。未来の予言や予想もしばしば行われている（Moravec, 1999＝2001；Kurzweil, 2005＝2007；Frey & Osborne, 2013 ; Bostrom, 2014＝2017；経済産業政策局、2015）。また、ＡＩやロボットの技術史や思想的系譜を検討した研究もすでに行われている（西垣、1990；荒屋、2004；中山、2006；Finlay & Dix, 1996＝2006；久木田、2013；松尾、2015；馬場口・山田、2015）。けれどもそうした研究だけでなく、ＡＩ等は、社会的な次元でさまざまなイメージを喚起しているゆえ、社会的風潮のなかでどのように位置づけられてきたかを捉えていく必要があるように考えられる。
加えて、特にロボットは社会的なイメージを伴って、小説や映画、漫画、アニメーションなどで人間対機械の構図で語られたり、正義の味方として描かれたりしていることも少なくない。そうしたロボットの文化史を描いた研究はすでにいくつか行われている（山田、2013）。たとえば久保明教は、漫画やアニメーション作品の変化を確認しながら、ロボットの文化史を描いている（久保、2015）。ロボットが漫画に頻繁に登場するのは、そのことによって人間と機械との違いを意識させ、ロボットが機械の“身体”であるにもかかわらず内面では人間に近づいていこうとする両義性をもっており、その両義性が物語を駆動させる力をもっているからだという。サイボーグもさして違わない。
とはいえ、ＡＩの社会的イメージの経時的変化に関する検討はなかった。ロボットについても、いかにマスメディアである新聞がロボットについて語ってきたかを考察した研究はほとんど見当たらない。瀬名秀明が『朝日新聞』の記事数の推移についてごく簡単に分析し、鉄腕アトムへの関心が再び集まるきっかけは一九八九年の手塚治虫の死であったことなどを指摘しているぐらいであった（瀬名、2004）。サイボーグについても同様である。
そこで本章では、ＡＩやロボット、サイボーグの社会的イメージの経時的変化に関する検討を行っていく。
調査手法
マスメディアは、弾丸効果論・限定効果説・新強力効果説といった効果研究が示しているように、直接的にせよ間接的にせよ人々が思い描くイメージの形成に寄与している［1］（Cantril, 1940＝1971 ; Lazarsfeld et al., 1968＝1987 ;McCombs & Shaw, 1972）。また、視聴者や読者が関心を寄せるようなトピックを選び、その内容を取り上げている（岡田、1988；林、2011）。よってＡＩ等をめぐる語られかたを検討するにあたって、マスメディアの動向を調査することは妥当性が見出せる。
具体的に調査対象としたのは、日本の新聞のなかで発行部数の上位を占める『読売新聞』『朝日新聞』ならびに経済紙といえる『日本経済新聞』の記事である［2］。新聞は、明治期から長らく続いているものが多い。しかも日本の全国紙の発行部数は、近年減少しているとはいえ世界でも珍しいほど大部数である。特に『読売新聞』『朝日新聞』は発行部数で世界一位・二位である（Milosevic, 2016）。内容面でも、知識階級が読者層である大新聞と庶民が読者層である小新聞とが統合された「中新聞」といえる特徴を示しており、広く一般の読者を想定して書かれている。なおかつ「新聞倫理綱領」にあるように、ＳＦや漫画といったフィクションとは違い、正確性を重んじて記事が書かれている。したがって、実際の社会的動向を調べる素材として妥当性が見出せる。こうした点から新聞記事は、調査対象として経年的な分析に適しており、また日本社会の趨勢を反映していると考えられ、ここではマスメディアのなかでも新聞を分析対象とすることとした。本研究は、全国紙のなかでも、もっとも発行部数が多い『読売新聞』『朝日新聞』の両新聞記事を取り上げる。加えて、経済・経営的な観点からＡＩ等が語られることが多いと想定されるため、経済紙である『日本経済新聞』の記事も分析対象に含める。
これら三紙は、新聞データベースが提供されている。『読売新聞』は「ヨミダス歴史館」があり、『朝日新聞』は「聞蔵Ⅱ」のデータベースがある。『日本経済新聞』は「日経テレコン」が提供されている。ＡＩに関してはいずれのデータベースでも検索式は「人工知能」の一語のみとした［3］。一方、ロボットやサイボーグについても検索式はそれぞれ「ロボット」「サイボーグ」の一語だけとした。地域面は、収録開始時期がさまざまであるため、収集の対象から除いている。また、新聞記事数の調査や記事内容の収集は二〇二〇年六月三〇日に行った。二〇二〇年の新聞記事数については一月から六月までの六ヵ月分の記事数を二倍にして一二ヵ月分として計算している。
ＡＩの新聞記事数の変化
図1─1は、artificial intelligence という語が生まれた一九五六年以降のＡＩに関する新聞記事の数を一年ごとにまとめ、そのうえに主な出来事を記したものである。図1─1を見れば明確な通り、日本の社会的風潮としては第一次ブームは起きていない。ＡＩに関する新聞記事はほとんど見当たらない。一九五六年は、第二次世界大戦終了から一〇年あまりが経ち、日本国有鉄道による大量雇用や新円切替、ＧＨＱの五大改革、朝鮮戦争の特需、傾斜生産方式などによって経済がようやく活性化しつつあった時期である。経済企画庁の『経済白書』で「もはや戦後ではない」と書かれ、その言葉が人々に知られたときだった。また、家電の「三種の神器」である白黒テレビ・洗濯機・冷蔵庫が普及し始めた頃であった。少し前までは洗濯板で衣服を洗濯していた時期であり、普及しはじめた洗濯機にも脱水機能はなかった。そうした時期にＡＩのイメージは一般に想像されることは難しかったに違いない。もちろん、一九五六年以降にもＡＩ技術の開発は進んでいた。たとえば、ゴールに向かって迷路を探索するような計算を行うアルゴリズムも実装され、ゲーム・プレイに応用された。そればかりでなく、アメリカのフランク・ローゼンブラット（Frank Rosenblatt）によってニューロンの働きを模したパーセプトロンが一九五八年に開発され、この技術が第三次ブームの火つけ役ともいえるディープラーニングにつながっている。しかしながら日本の社会に広く認知されていたわけではない。
一九六〇年代・一九七〇年代も同じ状況が続く。一九六〇年代は、手塚治虫の『鉄腕アトム』がテレビ放映されていた時期であり高視聴率を記録した。とはいえ新聞記事では、アトム＝ロボットという図式が形づくられているものの、その図式が前面に出ていることは少ない。「人工知能」という語は使われておらず、むしろアニメーション隆盛の流れのなかで取り上げられることが目立つ［4］。松原仁のように、子供の頃に『鉄腕アトム』を観てＡＩ開発に進んだ研究者もいることはよく知られている。子供心には鉄腕アトムがＡＩ・ロボットに直結していたのかもしれない。けれども、そうした表象が社会全体で抱かれていたわけではない。また、一九六八年にはスタンリー・キューブリック（Stanley Kubrick）が監督を務めた『二〇〇一年宇宙の旅』が日米で公開された。ただし『二〇〇一年宇宙の旅』のＡＩに言及している記事は少なく、たとえば坂井利之が一九六八年に書いた「コンピュータの嘆きと誇り」などが見てとれるほどである［5］。ちなみにこの坂井の記事には「人工知能」の語は使われていない。一九六〇年代後半は、第一次ブームの研究成果として、コンピュータ上で積み木の世界をシミュレーションしてそのなかでの動きを英語で命令・応答できるSHRDLU が注目を集めた一方で、ＡＩの限界が鮮明になった時期であった。自然言語処理の機械翻訳の質がきわめて悪いという報告がなされ、マービン・ミンスキー（Marvin Minsky）やシーモア・パパート（Seymour Papert）は単純パーセプトロンで排他的論理和を用いた演算ができないことを指摘した。さらにマッカーシーやパトリック・ジョン・ヘイズ（Patrick John Hayes）がＡＩ開発の難題としてフレーム問題があることを示した。
もともとＡＩに対するイメージが醸成されていなかったためか、こうしたトピックについても新聞記事に取り上げられていない。一九七〇年代は、産業用ロボットが日本で普及した時期であるが、ＡＩと関連づけた言明は少ない。たとえ新聞記事でＡＩを取り上げたとしても読者がついてこなかっただろう。
こうした事態が変わるのは一九八〇年代半ばを待たなければならない。一九八〇年代半ばになって、ようやくＡＩを扱う記事が増えていく。いわゆる第二次ブームである。『ＡＩ事典』（第二版）によれば、一九八〇年代のＡＩブームは「一九八四年ごろに始まり一九八〇年代の後半まで続」（橋田、2003：9）いたとされている。第二次ブームは、新聞記事数においてはっきりと確認される。一九八〇年代半ばに新聞記事数が増えており、なかでも『日本経済新聞』の記事数が顕著に増加している。
一九八〇年代は、データベースに専門知識を蓄積し論理操作を経ることで的確な回答を示すエキスパート・システムが脚光を浴び、年金相談や相続相談などの資産運用、医療診断、機器の故障診断、窓口業務、弁護士業務に活用することが期待された。また同じ頃、日本の第五世代コンピュータ・プロジェクトが世界の注目を集めていた。第五世代コンピュータ・プロジェクトは、通商産業省（現・経済産業省）が日本を技術立国とするべく国家の威信をかけて進めた国家プロジェクトであり日本独自の科学技術を開発しようとした。一九八二年にその中心的組織であるＩＣＯＴ（新世代コンピュータ技術開発機構）が設立されている。コンピュータの第一世代から第四世代までの素子の変化とは違い、論理型プログラミングで並列処理する非ノイマン型コンピュータを作り、人が使いやすいＡＩの開発を目指していた［6］。それが第五世代コンピュータである。
嘉幡久敬（2017）は、第二次ブームのときの第五世代コンピュータに関する報道を考察し、そのプロジェクトの責任者である渕一博と通商産業省・マスメディアとの間でプロジェクトの目標をめぐって隔たりがあったことを指摘している。プロジェクトを率いた渕一博は、述語論理型言語に基づく並列推論マシンの開発を目標にしていたのに対して、通商産業省やマスメディアは、目・耳・口をもち人間のように思考するコンピュータを目標にしていると述べていた。通商産業省は予算獲得のために誇大な表現を行い、マスメディアは官僚の言葉を鵜吞みにして、また読者にわかりやすく伝える工夫も合わさって、人間のようなコンピュータが開発されていることを大きく強調した。
一九八〇年代半ばは、日本でＡＩが社会的に認知されていったはじめての時期であるが、この頃は、すでに最先端のコンピュータ技術を求める気運が醸成されていた。すでに一九八〇年前後には半導体メモリの分野で日本は世界市場を席巻する製品を作っており、そうした実績がＡＩ開発への自信を支え、また社会的に話題になる素地を整えていたのだろう。図1─1に示されているように、いずれの新聞も一九八〇年代半ばに記事数が増加している。特に『日本経済新聞』の記事数が多い。コンピュータ業界以外の社会的背景としては一九八〇年代に日本の経済が勢いを増していたことが指摘できる。たとえば株価は急上昇を見せている。日経平均株価は一九八四年に一万円を上回ると、ＮＴＴ株の売り出しやプラザ合意を経て、一九八九年には史上最高値三万八九一五円を記録している。そうした好景気によって、最先端のコンピュータ技術としてのＡＩを語る気運が高まっていたと考えられる。研究の領域では、一九八六年に人工知能学会が発足し、日本でも学術的にＡＩを議論する場が形成された。なお一九八〇年代のブームに先駆けて、福島邦彦により一九七九年にネオコグニトロンが発表され、第二次ブームのさなかの一九八六年にはデビッド・ラメルハート（David E. Rumelhart）によって誤差逆伝播法も提案された。これらは、現在ディープラーニングの基礎技術と位置づけられている。
第二次ブームは一九八〇年代末に終わりを告げる。一九八九年あたりから記事数が減りはじめ、二〇一二年まで記事数が少ない状況が続く。新聞記事数は一九九〇年代から二〇〇〇年代の間にかけて少ないが、ＡＩに関することで話題性のある出来事がまったくなかったわけではない。一九九七年にＩＢＭのコンピュータDeep Blueがチェスで世界チャンピオンに勝ち、一九九九年にソニーから犬型ロボットＡＩＢＯが発売された。二〇〇一年には映画『A. I.』が公開され、二〇〇三年は物語のなかでアトムが誕生する年とされていた。また、二〇〇四年には映画『アイ、ロボット』が公開されている。ほかにはロボカップの大会も盛んになっていった。新世紀の幕開けに伴う期待感も相まって記事数は増えている。ただし、その増加は微増といえるものにすぎない。このおよそ二〇年間、日本は「失われた二〇年」と呼ばれる経済停滞期である。ＡＩが特段注目を集めることはなかった期間であるが、パソコンやインターネット、ケータイなどのコンピュータ技術は日常生活に広く深く浸透し、一般の人々にとってきわめて身近なものになった。
大きく趨勢が変わり再び記事数が本格的に増えはじめるのは二〇一四年であり、それ以降は急激な勢いで新聞記事数が増加している。第三次ブームが明確に見てとれる。新聞記事数は、第二次ブームよりもはるかに多い。ＰＣやインターネット、ケータイ、スマホが日常生活に欠かせなくなり、一九八〇年代よりもコンピュータが遍在化し高性能になっている。クラウド・コンピューティングやビッグデータの活用もある。身近なサーチエンジンや画像認識、音声認識、翻訳にもすでにＡＩが入っており誰でも体感しやすい。こうしたコンピュータ環境が社会的期待を作り上げているのだろう。第三次ブームのほうがはるかに社会的関心を集めている。二〇一〇年代は、第二次ブームと違い、経済状況が混迷を呈しており好景気に呼応したものではない。ただし、高性能化するコンピュータ技術と日々触れ合っているなかで、ＡＩを想像する感覚が培われてきたことは想像に難くない。
あまりにも報道が溢れかえっているためか、ＡＩに関する記事数は二〇一九年以降、減少に転じている。それでも以前に比べて新聞記事数はまだまだ多い。
ロボットの新聞記事数の変化
次にロボットに関する新聞記事の推移を取り上げる（図1─2）。前述したようにロボットという語は、一九二〇年に造られたが、それ以前の記事であっても後年になってロボットというキーワードが振られた記事が二件抽出されている。「機械製の人間ベルリンで公開のロボット、歩行、自転車乗りから名前も書く」『読売新聞』（一九〇六年四月二九日）および「海外最新知識人の働きをする機械▽毒ガスを防ぐ血清」『読売新聞』（一九一七年一二月二一日）の二件である。当然のことながら、ロボットという語が造られる前であるため、これらの記事の文面自体にはロボットという語は使われていない。一九〇六年四月二九日の記事にはタイトルにロボットという語が入っているように見受けられるが、当時の新聞記事自体には見出しがなくこのタイトルは後になってから付与されたものである。チャペックの『R. U. R』は、『東京朝日新聞』で一九二三年にはじめて新聞紙上で紹介されている。
全体的な傾向としては、一九七〇年代まではロボットという語が新聞紙上で前面に出ていることは少ないことが見てとれる。一九二四年にチャペックの戯曲『R. U. R.』が「人造人間」と銘打って日本で上演され、一九二八年には西村真琴が東洋初のロボット「学天則」を製作している。井上晴樹が指摘するように、第二次世界大戦が終わるまでにもロボットに対してさまざまな想像や期待が寄せられた（井上、1993；2007）。英米のロボットや映画『メトロポリス』（一九二七年）などが話題となり、井上によると「一九三一年を頂点とする日本最初のロボット・ブームの盛り上がり」（井上、2007： 5）があった。たしかに新聞記事は一九三一年に『読売新聞』が二一件、『朝日新聞』が八件抽出されている。けれども新聞記事数でみるかぎり、本格的なブームが沸き起こったとはいえない。また、一九五〇年にアイザック・アシモフ（Isaac Asimov）の小説『われはロボット』が刊行され、一九五〇年代から六〇年代にかけてはロボットが登場する漫画として代表例に挙げられる『鉄腕アトム』『鉄人28号』が出されアニメ化されている。一九七七年には映画『スターウォーズ』に「C─3PO」「R2─D2」という人気の出たロボットが登場している。にもかかわらず、ロボットの記事数は大きく伸びてはいない。一九八〇年代になってようやくロボットに関する記事が増加し、ロボットが着実に社会に根づいてきていることが読み取れる。一九八〇年は、ロボットが普及しはじめた「ロボット元年」と呼ばれ、産業用ロボットが工場を中心に導入された。一九八三年には日本ロボット学会が設立されている。サブカルチャーとしては、一九八〇年から『週刊少年ジャンプ』で連載された『Ｄｒ．スランプ』のアラレちゃんが人気を集め、一九八四年には映画『ターミネーター』が公開されている。
三紙のなかでは『読売新聞』『朝日新聞』の記事数がほぼ同じような推移をたどっている。一九八〇年を過ぎた頃から記事数が増えはじめ、二〇〇五年に最初のピークを迎える。その後、落ち着きを見せはじめるが再び第三次ＡＩブームに呼応して増加している。対して『日本経済新聞』の記事数は、これら二紙とは違った変化を見せている。一九八二年に記事数が急に増加している。この一九八〇年代前半の記事数の伸びは産業用ロボットが注目を集めたからである。産業用ロボットは、いうまでもなく経済・経営に深く関連することであるため、『日本経済新聞』だけが顕著な増加を示した。けれども、一九八〇年代前半から三〇年ほどは三〇〇件前後で安定している。再び記事数が増えるのは、ほかの二紙と同じく第三次ＡＩブームの時期に入ってからである。二〇一四年以降の記事数の増加は、ＡＩブームと連動している。二〇一九年以降は、ＡＩの記事数の変化と呼応するかのようにロボットの記事数も減ってきている。
サイボーグの新聞記事数の変化
序章の最初で述べたようにサイボーグという語は、一九六〇年に生物と機械との混交体を言い表すために造り出された言葉である。ソ連の宇宙開発に対する対抗心や焦燥感がアメリカのなかで漂っていた頃、それでもまだ有人宇宙飛行が実現していないときに生まれた。サイボーグなる存在は、人類が宇宙空間で生きていくため、人間がマシンと一体化し、マシンにより体温や水分を一定に維持して脳が萎縮しないように身体を調節する。栄養分も、パイプで直接胃や血管に送り込む。サイボーグは、そうした想像ともに生まれた語である。数年後の一九六四年から漫画『サイボーグ００９』（石ノ森章太郎）が発表されはじめ、一九八七年には映画『ロボコップ』がヒットした。一九九一年、漫画『攻殻機動隊』（士郎正宗）が発表されて、それが後に押井守監督によってアニメ化されて話題になった。これらは、いずれも主人公たちがサイボーグ化された作品である。近年、脳に電子機器を埋め込む事業で起業する例が出てきているが、それらが新聞紙上で取り上げられているわけではない。
サイボーグに関する記事数の特徴としては、ＡＩやロボットよりも、はるかに新聞紙上での言明が少ないことが挙げられる（図1─3）。一九八〇年代後半から記事数が多少増えているようにも見えるが、もっとも多い年で『朝日新聞』の年間二二件である。一ヶ月に二回ほど取り上げられているにすぎない。また、ＡＩの第三次ブームの時期になってもそれほどサイボーグについて言及があるわけではなく、いまだ大きな社会的注目を集めているとはいい難い。本来の意味、つまり実際の人間と機械とのハイブリッドを指す言葉として使われていることもあるが、漫画やアニメ、映画等のフィクションの作品に関する言明が大部分を占める。このほか、自動車やチームの名前になったり競走馬の名前になったり、スポーツ選手の人間離れした様子を表現する語としても使われている。
三紙の比較でいえば、ＡＩやロボットについては『日本経済新聞』で扱われる記事数が多かったが、サイボーグではそうなっておらず『日本経済新聞』の記事数がもっとも少ない。経済・経営への影響がはっきりとイメージできないため、また実用的な技術の開発にもまだ時間が要されることから、『日本経済新聞』で取り上げられることが少なくなっている。
（本文つづく。図と注は省略しました。pdfファイルでご覧ください）
第2章人間と機械との同質性と異質性のはざま
1 機械的生命・機械的知能への欲望
変わらぬ欲望
本章では、最初に古くから人類が抱いてきた機械的生命・機械的知能への欲望を振り返り、それが「情報」という考えかたと結びつくことで、いかに人間と機械との境界が消失し両者を同じスペクトル上に位置づける議論がありふれたものになっていったかを検討する。こうした点を確認しておくことで、近視眼的な議論だけに陥ることを避けることができる。その後、人間と機械との相違点を議論の俎上に載せる。
ＡＩの開発は、意識的にせよ無意識的にせよ、複雑な思想が相互に絡み合っている。その営みのなかでもまず太古より機械的な頭脳を作りたいという欲望が根底にあり、それに加わるかたちで二〇世紀半ばからは「情報」的観点から人間と機械との共通点を見出す思考が合わさりＡＩの思想の核心部分が形成されていった。
人間に似た人工物を作るというアイデアは、何世紀も前から連綿と続いているといってよい。古くはギリシャ神話に鍛冶と火の神ヘパイストス（Hephaistos）が自動人形タロースを作ったことが出てくるし、ピグマリオーン（Pygmalion）が自分で彫った女性の彫刻に恋をして神に頼んで生命を吹き込んでもらう話も出てくる。ユダヤ民俗にあるゴーレム─粘土や木で作られ、文字によって生命を与えられた人形─も一例といえるだろう。メアリー・シェリー（Mary Wollstonecraft Shelley）の小説『フランケンシュタイン』（一八一八年）に出てくる怪物なども有名な例である。そして序章・第1章で触れたようにチャペックが『R. U. R』（一九二〇年）で人工の原形質から人造人間を作ることを描き、この人造人間をロボットと名づけた。いまやロボットという言葉は広く一般の人々にも知られるようになっている。一九三〇年代から一九四〇年代にかけてコンピュータの理論モデルが生まれるが、その万能チューリングマシンやノイマン型コンピュータは、人間のあらゆる論理的思考を0／1のパターン変換に落とし込んだものであり、その意味ではコンピュータは元来、人間の知能を機械的に表現したものと捉えられる（西垣、1991）。二〇世紀中葉以降は特に、紆余曲折を経ながらもＡＩ・ロボットの制作が精力的に行われるとともに、さまざまな小説や漫画、アニメ、映画などで機械的な「生命」「知能」が多く描かれることになった。
宗教的感性
当然のことながら、この人工的な生命・知能との向き合い方は宗教的な感性が絡んでいる（Kaplan, 2005＝2011）。西洋では、人間のような生命を作り出すことは全知全能の神の技術であり、人間がそこに触れることは侵犯行為である。したがって『フランケンシュタイン』に典型的に表れているように、悲劇が待ち受けている。その物語には神への畏怖の念が感じられる。一方、逆説的に神への崇拝は、ゴーレム神話に見られるように神の意図を読み解き、文字を組み合わせて神に迫ろうとする欲望をも喚起した。ミッチェル・マーカス（Mitchell Marcus）によれば、ユダヤ神秘主義のカバラはコンピュータ科学と深く関わっている（Marcus, 1999）。神は文字を組み合わせて万物を創造し、みずからの似姿として人間を作った。そうであるならば神ほどではないにせよ、私たち人間も文字を組み合わせて創造できるはずだ。コンピュータ・プログラミングはまさに文字を書くことによって新たなソフトウェアを作り出す。神への畏れと憧憬、いずれも神と人間との垂直的な関係が西洋の宗教的感性の中心にある。
対して日本では、神による人類創世物語はなく、人間は自然に発生した。山や滝、石、動物、人間らは、広い関係性のなかに埋め込まれており、人間が特殊な特権的な位置にいるわけではない。人間と自然を対立的にも見ない。さまざまなものに霊性を見る。したがって、人間による機械的な生命の制作は自分もその一部である自然の組み換えであり、神の行為への侵犯ではない。悲劇をもたらさない。『鉄腕アトム』が人気を博し物語のなかでアトムが社会に受け入れられるように、あるいはＡＩＢＯのようなソーシャル・ロボットが次々と作られ売れたように、機械的な生命を作ることを欲し、その人工的な生命と人間との友好的な関係が望まれ実際に築かれてもいる。生命と非生命との境界が曖昧で、テクノロジーにも霊魂を見ていることから、テクノ・アニミズム（techno-animism）と呼び慣らわされている考えかたである（Allison, 2006＝2010 ; Jensen & Blok, 2013）。このように、人間が事物に生命を与えることには東西の宗教観の違いがある。けれども、どちらの場合でも人工的な生命・知能を希求し、その欲望はＡＩもしくはロボットの開発を下支えしている。ただし、日本の研究者や技術者の功績が少なからずあるにせよ、ＡＩの基本技術の大きな方向性が西洋において生まれたことも忘れてはならない。
「情報」なるもの
人工的に知能を作り出したいという欲望は、一九四〇年代以降サイバネティクス的なものの見かたが登場することによって増大し深化することになる。すなわち、コンピュータ科学が成立していくに伴って広まった、「物質・エネルギー」ではなく「情報」に着目する見かたの登場である。
「情報」の思想は、人間と機械との異質性よりも同質性を目指していた。すなわち、ウォーレン・マカロック（Warren McCulloch）とウォルター・ピッツ（Walter Pitts）の人工ニューロンやクロード・シャノン（Claude Shannon）の通信理論、ウィーナーのサイバネティクスが一九四〇年代に登場して以降、徐々に人間と機械とを同一線上に位置づける考えが広がりをもって受け入れられてきている。というのも、その過程で「情報」という概念が指している内容が多様なまま、同じ「情報」という語でまとめられていったからである。つまり、シャノンのように工学的応用のために確率論的な定義を行い意味を捨象した概念から、生物の生存に本質的に関わる価値といったものまで区別されずに同じ「情報」という概念にまとめられていった（西垣、2004）。それゆえ、機械も生物も同じ情報変換体であると位置づけられるようになったのである。これは、ルチアーノ・フロリディ（Luciano Floridi）の情報哲学でも見られる。フロリディの情報哲学は、極限まで倫理の範囲を拡大した（Floridi,2010）。フロリディによれば、生命倫理や環境倫理は生物中心的であり偏っている。高等哺乳類や生物、自然環境にとどまらず、情報的に理解できる存在物すべてが道徳的価値をもっており、それらの全体を圏と捉えることで非生物も公正に扱われるという。生物も人間もコンピュータも「情報」という概念で記述できるため、これらを同類として語っていく論法である。人間も機械も、「情報」を取り入れて内部で処理し、処理結果の「情報」を外に出す同類の情報変換体として定位されてきたのだ。本質的な違いはなく連続している。
泥人形ゴーレムも物語のなかでは肉体性がきわめて希薄に語り継がれていたが、ウィーナーは「情報」的な見かたによって機械は「ゴーレムの近代的化身」（Wiener, 1964＝1965 : 101）となったという。この情報的見かたでは、紙や鉛筆、金属、シリコン、空気圧アクチュエーターといった物質的要素は本質ではない。無機物であっても有機物であってもよい。むしろ、いかなる情報処理を実行できるかが重要視される。人間の頭脳が行っている情報処理が実行できれば、それは「知能」であるという見方が如実に出てきた。
人間と機械との同質性
「エネルギー・物質」とは違う「情報」に着目した場合、表2─1にあるように「論理的推論」「ホメオスタシス（恒常性）」「自己複製」「学習」「ニューロンの働き」には違いが見られない。これらの点に着目した場合は、人間と機械は同類として定位できる。
前にも触れたようにコンピュータの理論モデルである万能チューリングマシンやノイマン型コンピュータも、人間のあらゆる論理的思考は0／1のパターン変換で扱えるという発想に基づいている（西垣、1991）。それゆえ、論理的推論で見ると人間と機械は同じである。
フィードバック機構に基づくホメオスタシス（恒常性）は、人間も有しているが、機械にも備えつけられている。人間は、血流や筋肉の働きにより熱を外に出す量を調整して体温を一定に保とうとする。気温が〇度であっても四〇度であっても体温が三六度付近になるように調整されている。周囲の気温変化に対応して体内で調整が図られる仕組みである。フィードバック機構は、もちろん機械にもあり、典型的なものが冷蔵庫やエアーコンディショナー（以下、エアコン）である。
サイバネティクスの草創期に活躍したウィリアム・ロス・アシュビー（William Ross Ashby）は、攪乱されても平衡状態を保つ装置ホメオスタットを開発し、その四個の箱などからなる装置を「生きている」と表現し、目標値との差分をなくすメカニズムを「思考」と呼んだ（Rid, 2016＝2017）。この考えに従えば、現在の冷蔵庫もエアコンも生きており思考している。人間とマシンは、いずれもフィードバック機構を通じて行動を制御しているのであり、その点で人間とマシンとは同じである。
こうした発想は、ＡＩという語を生み出したマッカーシーの言葉にも表れている。マッカーシーは、一九七九年にこれまで作られてきた機械は信念に関する信念をもつには至っていないが、「サーモスタットほどに単純な機械でも信念があるといえる」（McCarthy, 1979）と述べている。いうまでもなく、サーモスタットは温度調節を行う機械で、温度に応じて金属が湾曲し、それによって弁の開閉を行う。目標値の温度と現在の温度との差を縮めるように動作するフィードバック機構である。フィードバック機構の有無でいえば、人間も機械も有であり、その点で両者は差がない。目標値と現状値との差が「情報」であり、その「情報」に基づいて両者とも動作する。ちなみに恒常性以外のフィードバック機構も人間と機械に共通して見られる。たとえば人間は物をつかむとき、対象物と手との距離（差分）を目で確かめながら、その距離を縮めるように腕を伸ばす。それと同様、対空砲も、標的との距離を計測しながらその差をなくすように弾道を決めていくように設計可能だ。
自己複製に着目する意見もある。人間の細胞は、核分裂の際にＤＮＡを複製する。人間は遺伝情報を複製して細胞を分裂させている。こうした複製は、コンピュータでも同じであり、ミラーリングやバックアップの際にデジタル情報を複製する。この点でも、人間とコンピュータは変わりがない。
学習についても、教師が言ったことを覚え正解を出すことが学習なら、ＡＩの機械学習はまさに学習である。たとえばＡＩの教師あり学習は、正解である教師データを入力し、その特徴量を抽出させる仕組みである。「犬」というラベルがついたデータを大量に入力しその特徴量を学習させることで、新たな画像も犬かどうかを識別できる。こうした手法は、迷惑メール・フィルターでも使われている。したがって学習が人間の特徴であるとすると、迷惑メール・フィルターでさえ人間に含まれてしまう。
ニューロンの働きについても、一九四三年にマカロックとピッツによって人工ニューロンが定式化されて以降、コンピュータで模倣できるようになった（McCulloch & Pitts, 1943）。各種の入力は、重みづけされて計算され0／1の値を出力する。実際のニューロンでなくても、ニューロンが行っている計算が実行できればよい。入力に重みづけを行い、最終的な出力が予期されたものであれば、その人工ニューロンは立派に考えている。この人工ニューロンが次第に多段になり、今日のディープラーニングにつながっている。
このように一九四〇年代以降の科学的知見および技術的開発により、人間と機械との距離は近づいてきたといえる。このように「情報」に着目して人間と機械との同質性を主張していく思想も、ＡＩ開発の根底には流れている。
マインド・アップローディング、シンギュラリティ
こうした見方に立てば、人間をソフトウェアに見立てて、ビームによって遠隔地に飛ばすこともできるであろうし、また古くなったハードウェアである身体を捨てて人間を新しいハードウェアのうえに移植することも可能である。いわゆるマインド・アップローディングである。ウィーナーは次のように述べている。「国から国へ電信を送るのに使えるような型の伝送方式と、例えば人間のような生物を伝送するのに少なくとも理論的には可能な型の伝送方式との間には、根本的な絶対的差異は存在しない」（Wiener, 1954＝1979 : 107）。いまのコンピュータがソフトウェアやデータをコピーして別のコンピュータに簡単に乗り換えることができるように、本質は情報処理のパターンであって、身体やハードウェアではない。ロボット学者ハンス・モラヴェック（Hans Moravec）もウィーナーとほとんど同じ発言をしている。「一つのコンピューター・プログラムとして、あなたの心は情報通信路を経由して旅行できる。たとえばレーザー情報ビームに符号化すれば、惑星間の移動もできる」（Moravec, 1988＝1991 : 165）。
この人間を情報処理装置とみなす思考は、発明家レイ・カーツワイル（Ray Kurzweil）のいうシンギュラリティ（技術的特異点）の議論においても共通している。コンピュータのＣＰＵのトランジスタ集密度が上がり速度も指数関数的に上昇していることから、二〇二九年には一台のコンピュータが人間の頭脳に匹敵することとなり、二〇四五年には一〇〇〇ドルほどのコンピュータの処理速度が人類の頭脳に比肩するようになると予見されている（Kurzweil, 2005＝2007）。この議論は、人間の頭脳とＣＰＵの働きを等値し、その処理速度からＣＰＵが人間の知能を上回ることを説いているものだ。人間の頭脳の働きを単純化しＣＰＵの情報処理とイコールで結ぶことから議論が組み立てられている。人間も、ＣＰＵと同じように情報処理をしているにすぎない。人間の身体とコンピュータのハードウェアとの差は取るに足りない。違いがあるとすれば、人間は生物学的な条件に縛られているけれども、コンピュータの情報処理速度は指数関数的な伸びを示していることである。こうした点にのみ着目すれば、たしかにコンピュータが人間の頭脳を上回るのは時間の問題である。
似たような論説としては、先に述べたモラヴェックのロボット論のほかに、哲学者ニック・ボストロム（Nick Bostrom）のスーパーインテリジェンス（超知能）─人間の知能をはるかに凌駕するＡＩ─が挙げられる。「脳のニューロンの演算速度は、瞬間ピーク速度で約二〇〇ヘルツであり、これは最近のマイクロプロセッサ（～二ギガヘルツ）の演算速度より七桁も遅い」「生体ニューロンは信頼性の面でトランジスタより劣る」（Bostrom, 2014 : 59─ 60＝2017 : 130─131）といった具合で、ボストロムは、人間とコンピュータを同じ線分上にあるものと位置づけ、人間の頭脳をコンピュータが上回る超知能の出現を予言している。ボストロムによれば、人間の知能と同等のＡＩができれば、そのＡＩは自己改造を進め、知能爆発が生じる。超知能は人間が制御しづらく、複数の超知能が競合するシナリオも想定できれば、単一の超知能（シングルトン）があらゆるものを統合するシナリオも描くことができる。人間の情報処理とコンピュータのそれを連続的に見る限り、たとえ現在のシンギュラリティ論や超知能論が廃れても、同じような論説は何度でも今後登場してくるだろう。
（本文つづく。図と注は省略しました。pdfファイルでご覧ください）
第3章 AI倫理の基底
1 人間機械論批判
ＡＩの倫理をめぐる論考は多々あるが、生物と機械との差異に基づきながら検討した研究は見当たらなかった。二〇〇〇年以降、ＡＩもしくはロボットをめぐる倫理は大きく分けて二方向で議論が進められている。一点目は、ロボエシックス（roboethics）と呼ばれ、社会生活に組み込まれるＡＩと人間との関わりを探求しようとする方向性である。たとえばダニエル・デネット（Daniel Clement Dennett）（1997＝1997）やデイヴィッド・レヴィ（David Levy）（2007）、西條玲奈（2013）らの研究が挙げられる。二点目は、マシン・エシックスと呼ばれ、いかにしてＡＩに倫理的な側面を実装して道徳的な振る舞いをするＡＭＡｓを設計するかという方向性である。たとえば関口海良・堀浩一（2008）やウェンデル・ウォラック（Wendell Wallach）＆コリン・アレン（Colin Allen）（2009＝2019）、マイケル・アンダースン（Michael Anderson）＆スーザン・アンダースン（Susan Anderson）（2011）、久木田水生（2012）、岡本慎平（2012）らの研究が位置づけられる。これらの二方向の研究は、ＡＩをめぐる倫理を考えるうえで示唆に富むものの、いずれも知能や感情に焦点が合わされており、生命と機械との相違についてはほとんど問題にしてこなかった。
第2章の前半で述べたように人間と機械との同質性を主張する声が一九四〇年代以降徐々に強まっている。ＡＩの開発は、細かい違いはあるにせよ、「人間のように思考するコンピュータ」が目指されている面があり、人間と機械との境界を乗り越えようとする思想が見出せる。そうした傾向に合わせるように、情報哲学の分野でも自然物と人工物との境界を設けず、情報的存在として生命／非生命を連続的に捉える理論も提示されている（Floridi, 2011）。ケイト・ダーリング（Kate Darling）（2012）のように、基礎的な議論を経ないまま財産権を超えたロボットの保護について論じている研究者も現れている。しかし倫理的な問題において、生物と機械との差異について検討せず両者を同一線上に位置づけてよいのだろうか。
この相違を議論せずに倫理的な問題を検討していけば、後で述べる数々の課題が生じる。人間の尊厳の根源を破壊するほどの大きな倫理的問題を引き起こす可能性がある。むしろ生命と機械との差異を踏まえたうえで、これまでのＡＩ倫理の議論を整序─ 再編することが望ましいのではないだろうか。生命と機械との差異は、倫理的議論の大きな分かれ目である。それゆえ、第2章の後半では生物と機械との違いを議論の俎上に載せた。本章では、その立論をもとにＡＩ倫理の基底的な領域を検討することとしたい。倫理的責任（moral responsibility）の所在や倫理的配慮の必要性、道徳的共同体への包摂の可否、擬人化の問題についても扱っていく。
なお本書で扱う責任は、法的責任（liability）ではなく、あくまで倫理的責任である。法的責任として扱われることが多い議題も倫理的観点から論じる。周知のように責任（responsibility）という語は多義語であるが、本書では過去の行為の賞罰に関わる責任という意味でも、現時点ならびに未来の行為の義務や責務に関わる責任という意味でも用いる。
人間と機械との区分は、ＡＩの倫理を考えるうえでの基盤をなす。人間を含む生物と機械との間には埋めがたい差がある。最先端技術の結集であるＡＩでも、それは変わらない。仮に人間と機械との違いがないのであれば、機械自体に権利をもたらす方向で議論が展開できるのと同様、逆に人間を機械扱いする立論にも容易に結びついてしまうからである。こうした事態は、情報倫理の淵源としても挙げられるウィーナーがもっとも危惧したことである（Bynum, 2005；西垣、2010）。
（権力者の支配のもとで）人間は、或る高級な神経系をもつ有機体といわれるものの行動器官のレベルに引き下げられてしまった。私は本書を、人間のこのような非人間的利用（inhuman use of human being）に対する抗議に捧げたいのである。（中略）人間の機械化は彼らの野望を実現する一つのかんたんな道である。思うに、権力へのこういう容易な道は、実は、人類にとって道徳的価値があると私が考える一切のものの廃棄であるばかりでなく、人類の今後かなり長期にわたる存続のための今やはなはだ細くなった道の廃棄をも意味する（Wiener, 1954＝1979 : 23─ 24）
人間が機械であれば、冷蔵庫のように三六五日二四時間働かせても構わない。コンピュータは三年から五年ほどしたら処理スピードが遅くなるため不要物として捨てられるが、人間がそれと同じような扱われ方をされてしまいかねない。機械とは、用立てるものであり、なにかに役に立つために作られる。アロポイエティック・システムであり、人間によって設計・製造・維持されるものであり、人間の指示通り動くように要請されている。そのため、故障して目的の機能を果たせなくなれば廃棄されても仕方がない。
けれども、人間はそうではないのではないか。マルティン・ハイデッガー（Martin Heidegger）がいうように、人間はそもそもなにかに役立てるために作られているわけではない（Heidegger, 1962＝1965）。人間は、細胞が次々と分化して生成し、その内部を常に作り続けているオートポイエティック・システムの集合体であり、一人ひとりは唯一無二の存在である。みずから内部を存立させ外部との境界を作り出すがゆえ「主観」なるものが生成する。また個々のオートポイエティック・システムは、内的メカニズムに沿って環境を認知するが、同じ時空間を占めるほかのシステムがない以上、個別に環境を生み出す。すなわち、オートポイエティック・システムの内的メカニズムも唯一無二であり、それに伴いシステムが接する環境も唯一無二となる。他者との厳密な交換はきかない。私たちは、あらゆる物事を含みこむ単一の絶対的・客観的世界に生きているわけではなく、集合的にいえば多元的現実（many realities, a multiversa）、すなわち複数の現実に生きているのであって、一人ひとり固有の現実に生きている（Maturana, 1988）。したがって、人間を「役立つ／役立たない」の尺度だけで見るべきではないし、たとえ役立たなくとも社会から排除すべきではない。
人間と機械を同じ線分上に連続的に位置づける議論が広まりつつあるなかであえて紙幅を割いて異質性を主張するのは、私たちはいとも簡単に人間を非人間化することがあるからである。ルイス・マンフォード（Lewis Mumford）は次のように述べている。
西欧の人々が機械に頼るようになるずっと以前から、社会生活の一要素としてのメカニズムはもう出現していたし、発明家が人間力に代るエネルギーをつくり出す以前から、群集の指導者は多数の人間を訓練し、編成していた。つまり、彼等は人間を機械に貶しめる方法を発見していたのである。鞭の音にリズムを合わせてピラミッドの石を運搬した奴隷や農民たち、あるいは各員が座に鎖で縛りつけられ、かぎられた機械的運動のほかなにもできないローマのガリー船を漕いだ奴隷たち、マケドニアの方陣の整列と行軍と攻撃隊形─こうしたものはすべて、機械的現象なのである（Mumford, 1934＝1972 : 57）。
たとえばロボット兵器は、攻撃する相手が生身の人間ではないかのように錯覚する危険性を秘めている。ピーター・シンガー（Peter Warren Singer）は、ドローン等を使って遠く離れた場所から相手を攻撃する戦闘員の体験について述べるなかで、ＰＴＳＤ（心的外傷後ストレス障害）に苦しむ人もいるものの、カタールにある部屋からイラク戦争を戦った人物が「テレビゲーム感覚だ。ちょっと残虐になる場合がある」と語ったことに言及している（Singer, 2009＝2010 : 481）。さらに兵器の自動化が進んで完全に自動化されたシステムが選別・判定・攻撃を行い、戦闘員が相手の映像さえ見ることがないようになれば、人が確認するのは単なる数字にすぎなくなり戦闘相手が人間であることを忘れてしまいかねない。
逆にいえば、実際には機械が人間とは異質であるがゆえに、さまざまなことが可能となっている面がある。技術的人工物である機械だからこそ、壊れたら捨てることができる。人と同じであれば、勝手に機械の電源を切ったり内部の配線を変えたりすることがためらわれる。もし本当の人間であるかのように、もしくはそれに近い権利を与えてロボットを扱うのであれば、損壊しても捨てられず、ＯＳやアプリケーションのインストールにあたってはロボット自身に許可をとらなければならない。あるいは、勝手にデータを読み込ませることも倫理的に認められない行為になるだろう。それは、いわば個人の内面を無断で操作する行為であり、不可侵な領域の侵犯にあたるとみなされてもおかしくはない。原子炉内などの人間にとって過酷な環境にロボットを送り込みにくくなるだろう。現在のところ、ロボットが人間のような自律性を備えていないからこそ、無許可でこうした行為をしても倫理的問題に問われないのである。
（本文つづく。注は省略しました。pdfファイルでご覧ください）
第4章〈社会─ 技術〉システムおよび人間という自律的・他律的二重体
1 〈社会─ 技術〉システム
本章は社会レベルの議論を進める。これまでの章では社会的次元を正面から取り上げてこなかった。そこで本章では、まず社会と技術が一体となって動作して〈社会─ 技術〉システムともいうべき存立様態を形成していることを述べる。その後、観察者における視点移動の操作により社会的次元と個人的次元との倫理的ありかたの違いを確認し、各領域および交差領域のなかで生じるＡＩ倫理の課題を議論していく。ネオ・サイバネティクスの理論に基づくことで、人間を含む生物とＡＩとの差異を視野に収めながら、人間の心理の領域にはＡＩが組み込まれていないことや、社会の領域にＡＩが介在することで歪んだ自律性が生じ一部の人々の社会的排除につながってしまう危険性、心理レベル／社会レベルの倫理性の個別性ならびに相互依存性が指摘できる。
ネオ・サイバネティクスの立場に立てばオートポイエーシスという特徴は、人間を含めた生物単体だけでなく、広く人間の社会にも見られるものであり社会の自律性をもたらしている。社会領域におけるオートポイエティック・システムは、社会システムと呼ばれ、コミュニケーションがコミュニケーションに連鎖することによって産出され存立する。人間それ自体ではなく、コミュニケーションを構成素として生起する。構成素たるコミュニケーションがコミュニケーションを継続的に引き起こすのだ。人間それ自体が構成素ではないため、たとえ特定の人がいなくなったとしても、一定のコミュニケーションが連接すればよい。経済や法のありようを想起すれば理解しやすい。コンビニのレジ担当が別の人に変わっても、支払いの手続きさえ遂行できれば差し支えない。支払いにつながる素材さえ記述できれば、機械であってもよい。社会システムにとって、人間も機械もアロポイエティック・システムであり、あくまで両者は社会システムが作動する素材を提供する存在にすぎない。また、心的システムの内部でどのように考えていようが、社会システム内でその思考が表出されなければコミュニケーションには結びつかない。社会システムが心的システムと別種の閉じたオートポイエティック・システムであることが確認される。
社会システムは、たとえ小規模であっても個人が完全に制御できるわけではない。二人でコミュニケーションしているとき、一方が息をつく暇もなく次から次へと言葉を出してくると、その相手は相槌を打つことぐらいしかできない。ごく短時間であると、一方的に話す人が制御しているかのように思われる瞬間がありえるが、それが長く続くことは事実上ない。黙っている相手が席を立つだけでその社会システムは大きくぐらつく。社会の規模が大きくなってくると、なおさらだ。世界経済は、誰か一人によって、あるいは単一の組織によって制御可能なものではない。物価の下落と企業収益の悪化が連続的に起こるデフレ・スパイラルも社会システムの一種である。社会学者ニクラス・ルーマン（Niklas Luhmann）の機能分化社会論は、社会が法システムや経済システム、マスメディア・システムなどの社会システムに分かれ、それぞれの社会システムが各々の内的メカニズムによってコミュニケーションを連続的に産出しているとする理論である。いうまでもなく、以前より社会を特徴づける語として技術が選ばれてきた。技術によって、あるいは技術が相互に組み合わされることによって、社会が成立している。人と人とが対面で打ち合わせする場合でも、その場まで行くためには自動車や電車、飛行機を使い、打ち合わせ場所には照明や空調、エレベーターなどが使われている。打ち合わせ時間も時計によって正確に把握されている。紙の書類でもプリンタから出力されているし、そもそも製紙技術によって紙自体も作られ、正確なサイズで裁断されている。コミュニケーションの連鎖は技術が支えている。仕事も日常生活も数え切れないほどの技術的人工物が支えている。
現在、そのコミュニケーション連鎖の自律性の創出に人間のみならずコンピュータ技術も関わっていることは論を俟たない。すなわち現代社会では、こうした社会システムのコミュニケーション連鎖にＡＩを含むコンピュータ技術が大量に介在しており、「機械─ 人間混成系」（Wiener, 1964＝1965）、あるいは「“人間＝機械”複合系」（西垣、2008）といえるシステムが生成していることが特徴的である。いわば〈社会─ 技術〉システムになっている。電子メールやウェブサービス、ＳＮＳ、オンライン会議システム、ネットゲーム、電子資料、電子決済等、技術的に媒介されてコミュニケーションが連鎖している。新型コロナウイルス感染症の発生は、こうした傾向を強めた。コンピュータ技術の介在は、テレワークや遠隔授業、オンライン診療など、これまであまり利用が進まなかった領域で一気に広がることとなった。
きわめて暴力的で特定の人間を追いつめるインターネット上の「炎上」も〈社会─ 技術〉システムの例である（河島、2014a）。あるいは一世を風靡した初音ミクなどのようにオープンコンテンツが次々と共同制作されていく現象も〈社会─ 技術〉システムとして捉えられる（チェン、2012）。インターネット上のデータを分析するマーケティングの自動化は、すでに顧客に合わせたコンテンツ生成・配信にまでつながっている。もちろん、〈社会─技術〉システムも単一ではなく、ネット上の社会システムも複数に分かれておりときには対立が起きる（河島・椋本、2014）。人々の記述が素材となり技術を媒介しながらコミュニケーション過程に取り込まれて、それが自己運動しはじめる。コンピュータ技術なくしては、もはや現代社会が成り立たないほど、コンピュータ技術が社会の隅々にまで入り込んでいるのだ。
コミュニケーションには意味が伴うが、情報技術に媒介されている間はその意味はいったん捨象され確率論的なビット列に変換される。機械の内部処理や相互の通信においては意味が潜在化し、いま一度、人間が観察して解釈することで意味が現出する。コミュニケーションを媒介する機械は増加し続けており、機械同士の相互作用が自動的に行われている。スマホは、近くの基地局に自動的に接続し、移動しても接続する基地局が自動的に変わる。そのことにより、歩きながら電話でコミュニケーションし続けることができるのである。
社会システムに組み込まれた技術が集積しネットワーク化することで、自律性をもった様相が明確に浮かび上がってきた。個々のソフトウェアはアロポイエティック・システムの一種であり、人間の記述の一種である。それらは機械の自律性をもつにすぎず、そのレベルも低い場合がある。けれども複数のソフトウェアの動きが集積して相互作用し連動することで自律性を帯びるケースが起こりうる。もっとも有名な例は、二〇一〇年五月六日に起きた株価大暴落である。コンピュータ・プログラムによる高頻度取引が巻き起こしたといわれ、個々のプログラムがそれぞれの資金を守るように動作した結果、ものの数分間にダウ・ジョーンズ平均株価が九％以上も下落した。人間の記述によって構築されたソフトウェアが株の売却をさらに記述し、ほかのソフトウェアも同様に記述を行うことで、株の売却が連続した。社会システムのレベルの自律性も存在している。個々の技術はアロポイエティック・システムであるが、ほかの技術と合わされることで、人間が即座に対応できない事態が生じた。
どんな人であってもネットワーク化されたコンピュータ技術の全体を余すところなく理解することは難しい。水や電気、ガスと同じく、コンピュータ技術はネットワーク化している。インターネットでデータを送受信できるのも、ＴＣＰ／ＩＰやルータ、ドメイン管理、ＳＳＬ／ＴＬＳなどの仕組みが相互に緊密につながっているからである。それらの全体を見通すことは事実上できない。またＣＰＵの処理速度の高速化やインターネット回線の大容量化、コンテンツの動画化といった流れは、たとえ世界の巨大ＩＴ企業といえども一社では止められない。個々の細かな技術は人間によって作られており制御可能であるが、個々人の意思で好き勝手に制作しても、ほかの技術との連動がうまくいかなければ使われない。コンピュータ技術の標準や動向を踏まえて制作することで、はじめてそれらが社会に受け入れられる素地が作られるのである。そうした意味で、技術開発は集合的行為でもある。コンピュータ技術は、人間個人の制御を離れて、社会システムの自律性に組み込まれて動いている。
また後の議論につながっていくが、この〈社会─ 技術〉システムを観察する際にも、コンピュータが積極的に使われている。ＧＰＳやビデオカメラを使った人々の細かな移動、サーチエンジンの検索ワード、ショッピングサイトの購買行動、ＳＮＳ上の人々のつぶやきやクリック、表示回数等が分析されている。
（本文つづく。注は省略しました。pdfファイルでご覧ください）
