大象传媒

法学と行动科学から考える望ましい础滨规制

近年、めざましい発展を続ける础滨（人工知能）やロボット。
さまざまなことが自动化される中、础滨开発における规制やルール作りの议论が始まっています。
一方で、これらの机械を妄信したり、逆に嫌悪するといった、人间の极端な倾向も指摘されています。
适切な础滨活用に向けたこれからの法体系を考える时、行动科学とのコラボが键になりそうです。

自动化技术と法

　ネットショッピングをするとき、画面の向こうには店员がいるわけではありません。コンピュータのアルゴリズムが自动的に応答しているだけです。民法では、契约は当事者双方の合意により成立する、とされていますが、ネットショッピングにはそれがなく、売买契约が成立しているのか、実は曖昧です。また、年収や生活スタイルなどの个人情报を入力すると、それに応じた商品が提案されるようなシステムでは、特定の方向に诱导するようにプログラミングされていたとしても、利用者がそれを知る术はありません。
　このように、ロボットや础滨による自动化が进むと、これまでの法体系では扱いきれない问题が生じます。それらは、契约法、知的财产法、个人情报保护法、そして宪法など、多くの法律と関わります。
　例えば、自动运転车が事故を起こした场合、谁がどういった割合で责任を负うのでしょうか。运転者か製造者か贩売者か、裁判では、起こった事象の因果関係が争点になりますが、现在の机械学习やディープラーニングといった技术では、础滨が行う计算过程はブラックボックスになっており、法的な判断を下すのは困难です。

人间のバイアスを考虑する

　そこで検讨されているのが事前规制です。础滨の伦理原则のようなものをあらかじめ作っておき、开発の段阶で何らかの歯止めをかけよう、ということです。利便性向上のためとはいえ、中身がよくわからないアルゴリズムに頼ってもよいのか、法律の専门家たちが础滨の问题を指摘し始めたことで、技术者たちの间でも、开発に伴うリスクを未然に防ぐための议论が始まっています。
　しかしながら実际に厄介なのは、人间のバイアスです。人々には、础滨を崇拝し妄信してしまったり、やみくもに嫌悪して全く信用しないとする、両极端の认知パターン、すなわちバイアスがあることが、行动科学の分野で指摘されています。しかも、バイアスを减らそうとすること自体にもバイアスが含まれるため、础滨との「ほどよい信頼関係」を定义するのは容易ではありません。そこで、そもそも人间の判断にはバイアスが含まれることを前提に、つまり、行动科学の知见を生かして法や规制を构筑する、という研究领域が新たに登场してきました。

新しい法学の研究手法へ

　もともとの研究テーマは、自动化されたアルゴリズムに基づく契约の有効性。証券会社で働いていたときに感じた、机械に仕事を夺われるのでは、という危机感がきっかけでした。法学における一般的な研究手法である「比较法」によって、海外の先行事例を调べ、どのような背景でどのような法律が作られているのかを分析しました。ここから発展して、础滨をはじめとする新しいテクノロジーが、商取引や投资行动に関わるルールに及ぼす影响を考察してきました。
　そんな中で出会ったのが、行动科学の视点から础滨规制にアプローチするアメリカでの研究です。础滨伦理原则を作っても、结局は、各自の判断で正しい行动をとるしかなく、その実効性には限界があります。そこに、人间の行动や认知の特徴を取り込む、という斩新な考え方に惹かれました。行动科学は、経済学などでも応用されており、これからの法学での展开にも大きな可能性を感じています。

どこまで任せるかを考えよう

　　一定の歯止めが整うまで础滨の开発をストップすべき、という提案もありますが、同时に、どこまで础滨を使うべきか、という议论も必要です。完全自动运転车は、便利かもしれませんが、运転の楽しみを失って反発する人も出てくるでしょう。人间らしさや、何のために自动化するのか、ということも考えなければ、人间の力を夺ってしまうことにもなりかねません。ひたすら自动化を进めようとすれば、规制が过剰になったり、あるいは缓くなりすぎる弊害も生じます。
　ロボットや础滨はあくまでも道具。なんでも任せるよりも、任せるべきことと、そうでないことを区别し、人と机械が调和する社会を模索すべきです。それには何かしらの基準やルールが必要で、法律家や技术者だけではなく、多くの人の意见や幅広い研究分野の知见にも目を向けなくてはなりません。行动科学とのコラボが、その第一歩になりそうです。