8月31日（金）ハロー会議室秋葉原駅前B会議室にて、「AI自動運転で書き換わる 業界のルールと法規制」と題し、第11回 本とITを研究する会セミナーを開催した。
登壇者には西村あさひ法律事務所から福岡真之介弁護士、矢﨑稔人弁護士、鈴木悠介弁護士をお招きした。残暑厳しい中、多くの参加者が会場へ駆けつけてくれた。
◎残暑厳しい中、参加者たちが集う会場
2020年をめどに実用化が計画されている自動運転に関し、責任の所在や社会のルールが書き換わると共に、倫理観や業界地図までが書き換わるというストーリーを、自動運転に多角的な知見を持つ法律家たちから貴重な話を聞くことができた。
まず、自動運転の定義から。自動運転とは、人間が車を運転する際に行っている「認知・操作・判断」という活動をコンピュータや機械が肩代わりするものである。「認知」の領域ではデジタル地図やカメラ・超音波測定器など、データやセンサー類が担い、「操作」の領域ではブレーキやハンドルなどを司る機器が担う。これらは高度化を求め日進月歩で技術が進化している。そして「判断」の領域は、今回の本題であるAIの分野が担い、ソフトウェア工学において急速な進歩を遂げている。
◎自動運転の概論を解説する矢﨑稔人弁護士
議論の余地が多い「レベル3」。そして、新たなシステム開発プロセス
自動運転の導入により、人間よりも正確で過失が少ないことから、交通事故が軽減できる、渋滞を緩和できる、燃費向上でエネルギー資源の消費節減や環境保護につながる、ドライバーの負担減につながる、などが期待されている。そして最も期待されているものが、自動運転とはいわば「汎用性の高い技術のデパート」で、高度な技術の集大成だ。これにより各産業は活性化し、いままでにない産業やビジネスモデルが出現する、という期待である。
自動運転にはレベル0からレベル5までが存在する。レベルは技術進歩の度合いと連携しており、レベル0は完全手動運転で、レベル5が完全自動運転だ。自動運転に移行すると、従来人間が行っていた判断と操作がコンピュータと機械に委譲されるので、これにより「誰が事故の責任を取るのか」という、民事責任が問われることになる。
また、自動運転ならではの事故も起こりうる。たとえば車の前にビニール袋が飛んできて、人間の判断ならそのまま通過してしまうが、AIはそれを損害をもたらす物体と判断し、急ブレーキや急ハンドルをかけ事故にいたるという、刑事責任が問われるケースも考えられる。過去の有名な事件で、三菱自動車のリコール隠し問題がある。トラックの車輪が外れて死傷者を出したこの事故では、メーカー側の担当者に1年半の禁固刑が言い渡された。
◎自動運転のレベルと法規制についてひもとく福岡真之介弁護士
こうした事例を踏まえると、自動運転の「レベル」が課題になる。完全自動運転に移行する過程にはレベル3があり、これはちょうど、手動と自動が混在した状態である。つまりこのレベル3では、ある特定の条件下で自動運転よりも手動運転が優先される「オーバーライド」が発生する。
たとえば、AIが判断できない問題に突き当たると、自動運転システムは「オーバーライド」として、判断と操作を運転者に「返上」するである。そこで事故を起こした場合、どこに責任の所在を求めるのか、という議論もある。センサーの不調や故障により死傷事故が起こった場合は現状ではメーカー側に業務上過失致死傷罪が適用されるが、このレベル3においてはドライバーの責任とメーカーの責任の切り分けが難しく、議論の余地が多い。
自動運転には予見できないリスクが山積だが、現在年間4000人の交通事故死者が自動運転の導入により2000人に半減できるのなら導入する価値は十分にあり、前述の環境問題や産業の活性化のことも踏まえると、自動運転は明らかに普及し、産業領域としての発展を後押しするものとして確実である。
自動運転のAIシステム開発に関し、従来の開発プロセスではカバーしきれない点も指摘。開発プロセスにより工数と見積もりが決まるので、これは発注者と受注者であるエンジニアにとって重要な課題だ。
AIシステム開発における最大の特徴は、従来のように処理のロジックを積み上げていくのではなく、インプットされる入力データと期待される結果データが初めにありきで、それに従ってAIシステムが作られ学習すると共に、最適化されていく。その開発工程はアジャイル型に近いが、システムの開発はエンジニアが行うが大元のデータの提供は発注者が行うなど、発注者と受注者の関係性や責任の重みも変わってくる。システム開発の現場でも、ワークスタイルから契約方法、収益の構造までが大きく変化する。
「トロッコ問題」は、もはや思考実験ではない
後半は、AI自動運転社会における倫理について議論が進められた。人間の判断は、最大多数の最大幸福を目指す「功利主義」と、人間を何らかの目的を達成するための手段としてはならないという道徳律による「義務論」という、二つの倫理観の間で揺れ動いている。このように人間の倫理的判断にはたえずノイズが入り、なにを目的として最優先するのかがぶれる。一方でAIは、目的に対してぶれず、極めて合理的な判断を下す。ある人にとっての正解がある人にとっての不正解である倫理の問題を、AIならどう解決するのか。AIの発展における最大の課題だとも言える。
◎自動運転時代の「倫理」を語る鈴木悠介弁護士
倫理に関する思考実験に、「トロッコ問題」「歩道橋問題」「ブリッジ問題」がある。
まず「トロッコ問題」は、トロッコが左に進めば人が一人ひき殺され、右に進めば5人がひき殺される。あなたならどちらにポイントを切り替えるか、という問題である。
「歩道橋問題」は、歩道橋の上に太った男がおり、その下の線路には5人が横たわっている。太った男を突き落とせばトロッコは停止し5人は救われるが、太った男は命を落とす。その際にあなたは太った男を突き落とすか、という問題。
最後の「ブリッジ問題」は、橋の反対車線を走る40人を乗せたスクールバスが車線を越えてこちらに走行してきた。自分の車がスピードを上げて通過すればスクールバスは確実に谷底に転落する。逆に自分の車が犠牲になれば自分は命を落とすがスクールバスは停止し40人の命が救われる。あなたならその犠牲になるか、という問題。
AIは生命の価値を判断できるのか？
「ブリッジ問題」は最も自動運転の話に適用しやすい。「犠牲」のプログラムが組み込まれた自動運転車を購入したいドライバーがどれだけいるのか、という商業的な問題もかかわってくる。少人数の命を犠牲にして多人数の命を救えばよいのか。平均余命が長い人間を救うべきか、あるいは納税額の低い人間を犠牲にして納税額の高い人間を救うべきかという、生命の価値判断基準をAIに設定することができるのか、という議論も出てくる。もしくはこの価値判断基準は、膨大なインプットを通してAIが学習し、人間が想像もつかない新たな価値判断基準を持ち出すだろう。
上記のような是非が問われる倫理の問題は、臓器移植や代理母などで議論された医療の問題によく当てはまる。科学の発展と共に出現した未知の問題を解決する一つの手段として、「AI倫理委員会」を設立し、そこに判断を仰ぐという方法が考えられる。知識人や経営責任者を中心としたこのような対話の場を設けることは、未知の問題に取り組むための重要なソリューションである。
産業やサービスの巨大なプラットフォームになる
自動運転車これまで述べたような、自動運転を巡り変化を遂げる法規制やシステム開発、倫理観を知ることで、ビジネスモデルの激変は容易に想像がつくはずである。自動車メーカーが車を製造して販売し、その収益を企業の資金にするという、従来のビジネスモデルは大きく変化する。そして自動運転車はもはや自動車ではなく、産業やサービスの巨大なプラットフォームに変貌する。
たとえば、タクシーが無料で乗車できる代わりに、乗客が車内で広告を閲覧したりアンケートに答えたり物品を購入するなどの対価を支払う、というビジネスも考えられる。また、それに伴った自動車保険商品の販売や、車内の広告システムの開発や販売も出現する。さらに新しい税制も生まれ、行政におけるお金の流れも変化する。そして産業は着実にシフトし、新たな広がりを見せる。
AI自動運転の公道での本格運用は、さまざまな未知の問題をはらんでいる。しかし、その道を進まないという選択肢はない。携帯電話が普及したころは、そのようなものに毎月何千円もの固定費を支払うという感覚はほとんどなかった。しかしいまでは水道やガス、電気料金などの公共料金を払う感覚で通話料が支払われている。また、携帯電話が人体におよぼす電磁波の問題などにもあまり触れられる機会はない。
インターネットが普及し始めた1995年ごろは、企業がインターネットを導入することなど情報漏洩のリスクが高く危険と認識され、多くの企業は導入をためらった。一部の大企業は導入するものの、問い合わせ先電話番号を前面的に掲載する企業はほとんどなかった。
逆の例を言えば、原発はかつて「とても安全でクリーンなシステム」としてマスコミや政府がキャンペーンを行い、社会全体が危機意識を抱くことはなかった。ましてや廃炉など、人類と産業の発展を阻害する「遅れた」考えであった。2011年東日本大震災に見舞われたいまでは、ご覧の通りの評価である。
AI自動運転が普及すれば、歩行者やドライバーはAI自動運転車との新しい付き合い方を学ぶだろう。自動車の出現により自動車事故という新たな問題が発生したが、それを補ってあまりある利得があると社会は受け容れている。
AI自動運転車が社会に受け容れられる日は目前に迫っている。それに備え、新たなビジネスモデルや未来を考えていきたい。この思考方法のヒントを、本セミナーでは法規制とシステム開発、倫理という三つの切り口で福岡真之介弁護士、矢﨑稔人弁護士、鈴木悠介弁護士に提示していただいた。この場で共有した知見が明日の繁栄を生み出すことに注目したい。
