法務・税務・労務などの問題解決エンジン
some system placed here.

人工知能と法律 ~人工知能の行為と責任~

  • このエントリーをはてなブックマークに追加

人工知能の自律的判断に基づく行為について誰が責任を負うのか

 機械学習自律的判断を特徴とするこれからの人工知能の発展は「第三次AIブーム」と呼ばれています。一方で、人工知能の自律的判断が可能になることにより発生しうる社会問題や法的問題についても議論されるようになってきています。

※現在のロボット・AI研究についてまとめられた論文として、「ロボット法学の幕開け」新保史生慶應義塾大学教授 Nextcom vol.27 2016 Autumn 22頁以下)があります。以下の問題提起も同論文23頁以下によりなされています。

 人間が指示することなく、人工知能が自律的判断により行動し、その結果、第三者の財産や身体・生命に損害が生じたような場合、誰がどのような法的責任を負うのでしょうか。

 例えば、運転者を必要としない完全な自動運転車両が事故を起こしてしまった場合、被害者に対して法的責任を負うのは自動運転車両の所有者でしょうか、利用者でしょうか、製造者でしょうか。

 

不法行為責任と製造物責任

 人工知能の自律的判断に基づく行為によって第三者に損害が生じたという上記の問題について、現行法をもとに法的責任が誰にどのように生じるか考えて見ました。

 まず、第三者に損害を与えた場合の法的責任の主なものとして不法行為責任(民法第709条以下)が考えられます。

 また、人工知能を搭載した自動運転車両は「製造又は加工された動産」なので、製造物責任(製造物責任法第3条)も考えることができます。

民法第709条(不法行為による損害賠償)
故意又は過失によって他人の権利又は法律上保護される利益を侵害した者は、これによって生じた損害を賠償する責任を負う。

製造物責任法第3条(製造物責任)
製造業者等は、その製造、加工、輸入又は前条第三項第二号若しくは第三号の氏名等の表示をした製造物であって、その引き渡したものの欠陥により他人の生命、身体又は財産を侵害したときは、これによって生じた損害を賠償する責めに任ずる。ただし、その損害が当該製造物についてのみ生じたときは、この限りでない。

 

 しかし、不法行為責任も製造物責任も、当然ながら、自律的判断をする人工知能の存在を予定しているものではありません。そのため、以下に見るように、不法行為責任や製造物責任をそのまま適用するにあたってはいくつかの問題点があるように考えます。

 

不法行為責任の問題点

 不法行為責任は「過失によって」第三者に損害を与えた場合に発生する法的責任です(過失責任)。「過失」は現在、予見可能性を前提とした客観的な注意義務違反と考えられています。

 しかし、機械学習と自律的判断を行う人工知能の行動について、製造者や開発者がこれをすべて予見することは不可能であるように思います。

 製造者や開発者が、人工知能の行為について不法行為責任を負う余地があるのは、製造時・開発時において予見可能性が認められる範囲ということになりますが、自ら学習・判断するこれからの人工知能について、その範囲を判断することはとても困難なように思います。

 

 人工知能を搭載した自動運転車両や機械の所有者・利用者は法的責任を負わないでしょうか。

 自動運転車両の所有者・利用者が、自動車の運転を完全に人工知能に任せていて事故が発生した場合、所有者・利用者自身は運転者ではないので民法第709条の「過失」が認められるのは困難でしょう。

 しかし、民法は、「ある事業のために他人を使用する者」の責任として使用者責任(民法第715条1項)を認めています。

 この使用者責任はいわゆる報償責任という法理に基づくものであり、同条を類推適用することによって被害者を救済することはできないでしょうか。(人工知能による自動運転車両により誰も法的責任を負わないとすれば被害者が救済されず、損害の公平な分担という不法行為制度の趣旨にも反します。)

民法第715条1項(使用者等の責任)
ある事業のために他人を使用する者は、被用者がその事業の執行について第三者に加えた損害を賠償する責任を負う。ただし、使用者が被用者の選任及びその事業の監督について相当の注意をしたとき、又は相当の注意をしても損害が生ずべきであったときは、この限りでない。

※報償責任:利益あるところに損失もまた帰させるという考え方です。今回の場合だと、被害者に対する関係で、自動運転による移動の便利という利益を得ている自動運転車両の利用者に賠償責任を負わせるのが損害の公平な分担に資すると考える余地もあります。

 

 もっとも、使用者責任においても、「使用者が被用者の選任及びその事業の監督に相当の注意をしたとき、又は相当の注意をしても損害が生ずべき場合」には使用者は免責されます。

 専門的技術者が開発した、自律的学習・判断を行える人工知能について、一般市民である自動運転車両の所有者・利用者はどれほどに「選任」(選択)や「監督」(管理)の責任を負うことができるでしょうか。

 所有者や利用者について使用者責任の類推を行うことも難しいかもしれません。

 

製造物責任の問題点

 製造物責任は「過失」が要件となっておらず(無過失責任)、「引き渡したものの欠陥により他人の生命、身体又は財産を侵害したとき」に生じる法的責任です。

 「欠陥」とは、「当該製造物の特性、その通常予見される使用形態、その製造業者等が当該製造物を引き渡した時期その他の当該製造物に係る事情を考慮して、当該製造物が通常有すべき安全性を欠いていること」とされています。

 問題点の一つとして、人工知能がソフトウェアとしての性格を持つならば、ソフトウェアプログラム単体は、動産ではないため製造物責任の対象にならないと考えられているため、ソフトウェアとしての人工知能の開発者に対しては製造物責任を問えないという点があります。(機器と一体になっている場合には組み込まれた機器と一体の動産として対象となり、機器の製造業者が製造物責任を問われる余地があります。)

 また、「通常有すべき安全性」や「開発危険の抗弁」(製造物責任法第4条1号)をどのように理解するかという問題があるでしょう。これからの人工知能は機械学習により自らを自律的に進化(変化)させていきます。

 人工知能が製造された時点では安全性を有していたものが機械学習の結果、予想外の変化を遂げてしまうかもしれません。人工知能が直面するあらゆる事態を想定することや、人工知能の判断過程を検証することは困難になっていき、開発時点においてすべての欠陥を予防することを期待することは難しくなるのかも知れません。

製造物責任法第4条柱書(免責事由)
前条の場合において、製造業者等は、次の各号に掲げる事項を証明したときは、同条に規定する賠償の責めに任じない。

同条1号
当該製造物をその製造業者等が引き渡した時における科学又は技術に関する知見によっては、当該製造物にその欠陥があることを認識することができなかったこと。

※開発時点ですべての欠陥を予防することが難しいとしても、予想できなかった欠陥が明らかになった時点で適切なパッチプログラムを開発・配布するなどの義務を課す法整備を進める方針もあるように思います。

 

本記事は、2016年10月04日公開時点での情報です。個々の状況によっては、結果や数値が異なる場合があります。特別な事情がある場合には、専門家にご相談ください。
ご自身の責任のもと安全性・有用性を考慮してご利用いただくようお願い致します。


この記事のアドバイザー

yoshida 吉田秀平

弁護士

上場企業の総務・法務を担当した経験を活かして、中小企業、ベンチャー企業、スタートアップの支援をさせて頂きたく思っています。訴訟になる前に、リスクが顕在化する前に、低コストで高い効果の予防法務サービスを提供することが目標です。

  • 所属:しぶや総和法律事務所

関連記事


新着記事
公式Facebookページ 公式Facebookページ
誰に何と相談していいかわからない方へ
050-7576-0762
[日本法規情報]
  • 平日10:00~20:00
  • 土日祝終日、受付のみ対応

誰に何と相談していいかわからないあなた。
私達が相談相手探しのお手伝いをいたします。

無料相談・全国対応 050-7576-0762 お電話ボタン