ロボットの人工知能が生まれる研究室に、多様性はあるか
AIや人工知能の開発が進む中で、機械が倫理的に物事を判断できるかどうかがより重要になってきています。
今回は国連やユネスコ、IEEEなど国際組織で標準化関連のワーキンググループで活躍するEdson Prestes先生に人工知能、ロボット技術に倫理的な要素が必要な理由を聞いていきたいと思います。
第一回はロボットにおける知能の重要性と倫理的な判断に関するお話を聞いていきます。
Kohei: プライバシートークへようこそ。今回はブラジルからエドソン先生に参加頂いています。先生はこれまでにロボット分野で活躍され、主にロボットと社会の接点に関する研究を行っています。最近では倫理とテクノロジーに関する取り組みも行っています。今回は新しい技術が続々と開発される中で、社会実装に向けてなぜ倫理的なアプローチが必要か一緒に考えていければと思います。エドソン先生、本日はありがとうございます。
Edson: ありがとうございます。
なぜEdson先生と話そうと思ったのか
Kohei: ますはエドソン先生のプロフィールを紹介したいと思います。IEEEのロボティックス、自動化社会（EEE Robotics and Automation Society(IEEE RAS)）、IEEE標準化協会(IEEE SA)のシニアメンバーとしてこれまで10年以上活動されています。 主に人工知能や標準化ロボティックス、倫理にまつわる様々な国際推進活動に取り組まれています。
国連のデジタル協力に関するハイレベルパネルではワーキンググループメンバーとして、浙江大学ロボット研究所ではアカデミック委員会メンバーとして活動されています。
IEEEではチェアとしてIEEE RAS/SA P7007（倫理を前提としたロボット及び自動制御システムのオントロジー標準に関するワーキンググループ）や、副チェアとしてIEEE RAS ロボットと自動制御におけるオントロジーワーキンググループ (ORA WG)。メンバーとして拡張知性に関するワーキンググループに参画されています。
EP3 Foundationではフェローとして、IEEEのグローバル自動制御システムの倫理推進グループではメンバーとして、副チェアとしてIEEE RAS標準化に関する委員会で活躍されています。
それ以外にも、IEEE RAS人道的な技術開発のグループやIEEE RAS産業活動、ボードメンバーとしてIEEE テクノロジーと倫理アドホックグループ、設立チェアとして IEEE南ブラジルRASチャプターとして活躍されています。
これまで新しい技術分野の先端で活躍されていたエドソン先生。今回はインタビューにお越し頂きありがとうございます。
早速始めのトピックをお伺いしていきたいと思うのですが、これまで様々な分野で活動されていて、技術のことだけでなく倫理や社会実装に関連した取り組みなどにも精力的に参加されています。
これまでのご経験からどう言った経緯で様々な分野に携わることになったのでしょうか？他の専門家の方とは少し異なった経歴だとお伺いしており、すごく関心があるテーマです。
IEEEの活動を始めたきっかけ
Edson: まずはインタビューに招待頂きありがとうございます。このような機会でお話しできるのは非常に嬉しいです。私のこれまでの活動から紹介すると、今まではずっと未来のAIに関する議論をずっと続けてきています。現在様々なワーキンググループに参加しているIEEEに初めて参加したのは学生時代からです。
少し昔の話ですが、私個人で当時はいくつかのロボティックス、AIに関連するペーパーを出していたのですが、話をもって行った際に団体自体が新しいメンバー加入にすごくオープンだったことを覚えています。
それがきっかけだったんですが、団体を通じて徐々にグローバルコミュニティに積極的に参加するようになり、色々なプロジェクトに関わっていったというのがこれまでの研究や活動に至る背景ですね。
初めて関わった取り組みが標準化のプロセスの話だった事を覚えています。当時ロボットの自動化に関するオントロジーと呼ばれるワーキンググループを2010年に立ち上げました。
それ以降様々なグループに参加させてもらいながら色々なメンバーの方々と交流し、私は特に人道的な活動に関する取り組みを実施することが増えていきました。
活動の中では共同オーガナイザーとして国際的なコンペティションを運営したり、独自に地雷除去の取り組みなどを提案したりしていました。地雷除去の取り組みは地雷をどのように発見し、どう言ったルートで地雷が埋まっていて避けて通るにはどうすればいいかなどをルートマップにする取り組みでしたね。
5年前からは産業化の取り組みだけでなく倫理に関する活動も行っています。倫理の活動を通じて気付いたのは私のこれまでの経験と非常に関連性があるという事です。これまでの経験が何か役に立つ事があると思いIEEEの国際推進の取り組みに参加しています。
ワーキンググループでは国際標準に関する提案を行っています。そういった活動を続けている中で、2年前には国連から招待頂き、デジタル協力に関するハイレベルパネルに参画して各国の様々な専門家の方と一緒に議論を行っています。
デジタル協力に関するハイレベルパネルではチェアのメリンダゲイツ氏、ジャックマー氏を始めノーベル賞を受賞者やスイスの前大統領などが参加し議論を行っています。
（動画：UN Chief, Melinda Gates and Jack Ma discuss Digital Cooperation）
複数のトピックを議題に話し合いを行い、人工知能などもその中に入っています。今年からはユネスコで立ち上がった専門家のグループにも参加していて、そこでは倫理と人工知能に関する社会実装テーマを議論しています。
私は学生時代からこう言った取り組みに参加してきていましたが、IEEEでの国際的な取り組みは、インターネットを通じて社会全体が開かれた環境になるにつれてより重要になってきていると思います。
日本からは災害対応ロボットで活躍されている田所諭先生や社会分野では福田敏男先生なども活躍されていますね。この分野は日本からも素晴らしい方が参加されています。
Kohei: そうなんですね。前回お話しさせて頂いた時に、先生の中でIEEEなど国際的な活動は趣味で行なっているとおっしゃっていましたが、この趣味というのは一体どのような意味があるのでしょうか？ 個人的にすごく気になったテーマです。
これからの技術に多様な視点が必要な理由
Edson: そうですね。
Kohei: 趣味のなかで倫理と新技術がどのように結びついていくのか気になります。
Edson: ありがとうございます。いい質問ですね。私が趣味と言ったのは、「この分野はまだ議論が始まったばかりで、倫理や人権に関する話題もまだ新しい分野」だからです。
私は教授としてブラジルの大学で教えていますが、私の大学ではこう言った分野はまだ教育として取り入れられていません。ブラジル政府も含めてです。
まだ新しいというのが大きな理由で、技術に関する内容をペーパーとして出版したり、ジャーナルに掲載したり、カンファレンスを開催するなどして啓蒙している段階ですね。
今はいくつかガイドラインを発表してどの国でも活用できるような指針の開発を進めています。その中でガイドラインの評価を具体的にどうすればいいかが決まっていないので、私は自身の経験のテクノロジー分野の視点から関わっています。
（多様な視点を前提に設計する事が重要：多様性が必要な理由）
もし深く議論する時間があれば、こう言ったガイドラインをより突き詰めて設計して少し違った視点で提供していきたいと思っています。私は他のグループメンバーと違い北米出身ではないので、参加メンバーが持っていない視点で考え方の提供ができると思います。なぜ趣味かと言えば、こう言った理由があるからですね。
私の大学はブラジルにあって、政府や学生にとってもここでも学びが重要だと思っています。私自身貧しい地域で体験した経験から、今のコミュニティでできる事も沢山あると思っています。これが私の今のモチベーションですね。ブラジル社会にこう言った考え方を持ち帰る事も私たちににとってはとても大切な事です。
Kohei: なるほど。確かにそう言った視点はすごく大切ですね。IEEEでは様々な分野のグループに所属されていると思うのですが、特に標準化を推進していく取り組みはとても重要だと思います。
グループでの活動に倫理的な視点を持ちながら標準化の動きが広がっていく事で国際社会全体でもテクノロジーに対する考え方が変わっていくのではないかと思います。先生が活動されていることは世界全体で倫理について考える機会を増やしていくという意味でも重要ですね。
Edson: ありがとうございます。とても重要な考えだと思っています。グループの活動は基本的に皆さんボランティアで参加されていて、国連でもユネスコでもIEEEでもそれぞれ自ら時間を割いて取り組んでいます。
私もボランティアとして様々な取り組みに関わっていますが、それは自分の活動が世界全体をより良い方向性に向かっていくための貢献につながっていると思っているからです。特に貧困地域の非常に難しいコミュニティで生活している人たちにも届けていきたいという思いがあります。
こういった活動に私が世界の南半球から参加することにはすごく意義があります。倫理やロボット、人工知能などの議論は北半球の人たちで議論されることが多く、米国やカナダ、欧州などを中心に議論が行われるため南アフリカや、ラテンアメリカなどの地域はどうしても議論に参画しづらいというのがあります。
もし欧州で開発された技術が南半球で導入されるとすれば、それは上手く機能しない可能性があります。南半球は独自の文化や考え方があったりするので、その辺りが大きな壁になると思います。
異なる基準の地域では、異なる価値を生み出していくことが重要で、人工知能などのソリューションの開発を検討する際には事前にそう言った考え方の違いを理解しておくことが大切です。
Kohei; そうですね。各地域の特性を事前に折り込んで考えていくことは、テクノロジー分野で求められる重要な視点ではないかと思います。特に、ロボットなどの分野ではそう言った考え方が必須になっていくのではないかと思いますね。
ここからは次の質問に移っていきたいと思うのですが、現在はブラジルのロボティックスリサーチラボで活動をされていると思うのですが、ここではどのような内容を学生の方に教えられ、ラボではどう言った研究をされているのですか？
ロボットとコンピューターサイエンスが融合する分野
Edson: 大事な質問をありがとうございます。実は明確に決まっていないということがあります。私のバックグラウンドはコンピューターサイエンスで、博士号まで取得しています。
その過程で、いくつかの分野で活動していましたが今のブラジルでは数学に関連した内容を教えていて、組合せ数学やグラフ理論などが主な内容です。
ロボティックス関連だとモバイルロボティックスという分野で、知識とコンテンツを学生の方には提供しています。これはコンピューターサイエンスからロボティックスを分析する領域で、ロボット自体を作るのではなくロボットをどのように利用するのかを研究する分野です。
例えば、ロボットがレーザーセンサーを利用して情報を集めて、自動で環境に合わせてマップを作成するなどが考えられます。
そのためにはマップの作成方法と読み込み方を事前に考慮して作成する必要がありますね。事前には特定のエリアの状況がわからない場合は、事前情報がなくてもロボットが自ら判断して何かに頼り誘導してもらえるように計画するか、もしくはGPSが無い状態でも自ら辿った経路を頼りにマップを作成できるようにするかで検討したりします。
その場合はカメラのみを利用して特定の位置を測定する場合を考えます。こう言った研究をグループに参加している人の専門性やグラフ理論を組み合わせて、色々試行錯誤しながら解を導き出していくような取り組みですね。私はロボット分野でもあり、コンピューターサイエンス分野の研究も行っているので、視点を組み合わせて教えています。
Kohei: なるほど。組み合わせのアプローチですね。社会でロボットの活動が浸透していくために、ロボットを開発するのではなく、ロボットが社会でどのように機能するのかという領域があるのは非常に興味深いです。
知能と倫理の問題
これは社会全体に新しいテクノロジーを浸透させていくためにもとても重要な研究領域ですね。こう言った取り組みの中で、ロボットのように機械が自ら判断するような世界が広がっていくと、私たちはロボット自体の意思決定にも関心を持つ必要があると思います。
映画でもロボットが自らコントロールして人間と対峙するようなストーリーも数多くあり、社会の破壊者になり得るような印象もありました。
そういった最悪の状況を避けるためにもロボットが倫理的に意思決定ができるような設計を考えることも必要になるかと思ったのですが、ロボットの判断に倫理を用いるためにはどのような設計が必要になるのでしょうか？
（動画：I,Robot |2004| Battle Scene）
Edson: それは非常に面白い質問ですね。映画の中でロボットが暴走するような場面があったとすれば、それはディストピアを描いたものでロボットが私たちの仕事を奪い人と立場が変わっていく世界の話ですね。
ただ、実際に技術の進歩をみてみると人工知能に関するテクノロジーの発展は、マーケティングが先行してしまっていてシステム自体が知能を持つまでには程遠い状況ですね。
人工知能が新しい知能を持った仕組みとして広がる事で新しいシステムを作り上げるという人もいますが、実際は「知能とは一体何か？」さえも明確になっていないのです。
「知能とは一体何か？」と突き詰めて考えていくと、知能は私たちの世界の中において特定の機能ではなく、課題を素早く解くための要素です。何か課題を解決しようとすると複数の知能（時には全て）を併せ持っておく必要があります。それは、社会知能もそうですし、人と人の関係性の知能や文化知能なども関係してくるのです。
今の時点で私たちは早くソリューションを開発することばかりに目がいってしまっていて、新しい知能を生み出す事につながっていません。新しいシステムを生み出していくためには十分に必要な議論を行う必要があります。
そして社会に対して知能とは何かを明確にして、理解してもらう必要があります。何故なら、知能とは何かを理解する事ができれば私たちが普段の生活の中でどれだけの知能を組み合わせて生活しているのかを理解することができ、テクノロジーだけではすぐに代替できない事が理解できると思います。
私たちは機械以上に精密に設計されていて、日々の生活の中で社会倫理など複雑な内容を含めて判断しています。私たちが持つ独特の知能と呼ばれる特徴を理解した上で、社会という枠組みの中で知能とさらに機械の特徴を注意深くバランスをとりながら理解していく必要があります。
法律が必要な理由は新しい技術を生み出した人たちへの責任や間違いが起こった際の説明などを求めるために一つの基準として必要になります。
生活環境に視点を変えてみると私たちが生活する空間から個人のデータを集める上では前提として私たちの生活を考える必要があります。データを集める事で私たちの生活が脅かされてはいけません。
プライバシーはロボットや人工知能が活躍する上でも本質的に必要な要素になります。社会学や人類学など様々な学問を組み合わせて、法的に起こりうるリスクを事前に考えておく事が必要になります。
もし特定の法律や規制を考えるとすれば、それは地域ごとに自然に異なってくると思います。その際にも人ありきで考える事が大切で、人が何を趣向するのかを前提に設計することも重要になっていきます。
実社会の中でアイコンタクトを例に考えてみましょう。日本人同士の場合、あまり長い時間アイコンタクトをし続ける事に慣れておらず、ハラスメントのような気持ちを感じたり、ネガティブに受け取る人もいると思います。そのため会話する際は自然と一定の配慮を行うと思います。
一方でブラジルの場合はアイコンタクトは当たり前で、近くで長時間見つめながら話す事もあります。このように前提として文化の違いを理解しておくことは重要です。もしそういった視点が抜けていると、ブラジルで作ったロボットを日本で起動させた時にショックを受ける可能性もあります。
Kohei: なるほど。それは興味深いですね。日本でも通信会社がロボットを小売店で活用するなど実験的に取り組みが進んでいます。その会社はフランスのロボット企業が開発した技術を導入していて、私たちが直接お店に訪れた際のナビゲーションなどをサポートしてくれています。
より人に近い形のロボットを開発するために、形を可愛くしたり小さくしたり、ペットの様な形式にするなど様々なロボットが誕生してきています。文化や国民性の違いによってロボットの形も変わってくるという視点はとても重要ですね。
（動画：[ハウステンボス公式]変なホテル）
これまでのお話の中で何故多様性が必要なのかをイメージできた気がします。私は日本人であなたはブラジル人という異なる背景があり、そこには文化や考え方があるので、何か判断基準を考える上での対象を明確にしておくというのはとても大事ですね。そう言ったインクルーシブな考え方を前提とした人中心型の考え方がより大切になってきそうです。
その観点から改めてエドソン先生の取り組みはとても重要だという事がわかりました。次は国連のハイレベルパネルでの取り組みに関してお伺いできればと思います。
世界中から多様な背景を持った人たちが集まり、日本や韓国などの東アジア圏、アフリカやラテンアメリカなどからも参加していて、欧米だけではないチーム作りがとても印象的です。
世界各国から多様なバックグラウンドを持った人たちが、最先端の分野で多様性が重要であるというメッセージを発信する意味でも重要だと思います。国連が発表していたロードマップも拝見している中でプライバシー保護や倫理の問題は聞いてみたいポイントです。
このような多様なメンバーが集まって現在はどのようなチャレンジに取り組まれているのでしょうか？
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookに気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーに関して語るコミュニティを運営しています！是非ご興味ある方はご参加ください！
「Privacy by Design Labコミュニティ」↓
ブロックチェーン技術は世界中の人たちが注目している新しいビジネスのタネの一つです！気になったら気軽にメッセージください！