便利な一方、トラブルにもなる「情報」

—佐藤先生は9月からスタートした『仮面ライダーゼロワン』に関わられているそうですね。どのような形で協力されたのでしょうか。

作品のテーマが人工知能（AI）ということで、技術的な観点からコメントをさせていただいたり、情報学全般に関するご質問にお答えいたしました。ただ、番組企画も脚本もしっかりされていますから、むしろ技術的に問題がないことを確認しているだけと言うべきかもしれません。

—先生は研究機関に務められているそうですね。どのような研究を進めているのですか。

まずはじめにお断りしておきたいのですが、『仮面ライダー』の技術アドバイザーは本業とは独立してお受けしております。ですので、記事中の発言はすべて個人としての考えであるという前提でお話をさせてください。^*


私が研究しているテーマのひとつは「情報学」です。ただ、「情報学」といっても広い分野でして、私の専門は、多数のコンピュータを連携して動かすためのシステムソフトウェア、例で言うとクラウドコンピューティングの裏側で使われているソフトウェアに関わる技術になります。

こういった技術を研究しようとすると、"プログラミングの能力だけを身につければいい"というわけにはいかなくなります。そのため社会学的な観点や法律との兼ね合いなど、さまざまな視点から「情報」に関する研究をしています。

技術が引き起こす「パーソナルデータとその取扱い」問題

—佐藤先生はいろいろな役所の委員も務められていますね。どのようなお仕事なのですか。

ひとことで言うと、情報に関わる法制度の委員会メンバーというべきでしょうか。情報は世の中を便利にしてくれますが、ときには不本意な形で用いられたり、トラブルを起こしたりすることもあります。技術的に可能だから、効率が良いから……というだけで発展を推し進めるわけにはいきませんので、情報による影響を含めて考えないといけないのです。

個人情報の保護に関する法律（略称：個人情報保護法）を例に説明しましょう。個人情報保護法が成立したのは2003年ですが、2015年には技術の進歩と社会の実態に合わせて改正されています。

2003年からの12年間で情報技術や環境が大きく変化しました。当時はスマホもなかったし、GPSつきの携帯電話を所持している人も少なかった。旧法では社会変化に対応しきれないため、改正の必要があったのです。そして、私も法改正作業にいろいろ関わることになりました。

このように、新たな技術・サービスが普及すると法律と技術の整合性をとる必要が出てきます。

かつての公害問題のように、ときには情報に関する技術やサービスの進歩が社会に問題をもたらすかもしれません。私も"技術屋"ですから、技術の問題は技術で解決したい。ところが残念なことに、技術だけで解決できない問題もあります。その解決手段の一つが法制度といえるでしょう。

"技術屋"は技術と法制度を分けて考えがちですが、技術と法制度は別のものではなく、一体で考えた方がいい場合もあります。

私は法制度に関しては素人ですので、同じ委員会のメンバーとなっている法学や社会学の識者の方々にご指導いただきながら、多少なりとも貢献をさせていただいている状況です。一昨年からは法学の先生方と有斐閣の雑誌『論究ジュリスト』に連載で毎号登場させていただいています（座談会形式）。技術に閉じずに仕事をすることも重要と思っています。

—パーソナルデータに関する具体的なトラブル例を教えていただけますか。

最近でしたら、いわゆる「リクナビ事件」がありますね。就活生が知らない間に、リクルートキャリアに入力した情報等が就職活動で不利に利用されていた。内定者辞退に関わる情報がリクルートキャリアの顧客企業に販売されていたというものです。

以前は個人情報の漏洩事件に関心が集まっていましたが、最近ではサービス開発者/運営者が目的外利用を行なうケースが問題化することが多いですね。

他にも、一部のタクシー事業者がカメラで車内の様子を記録し、事前に同意を得ないままお客さんの属性（性別）を調べ、広告の表示内容を変えていたケースがありました。顔を個人情報とみれば個人情報保護法違反ですし、肖像権違反にもなります。


今後IoTが普及すれば、世の中はいろいろ便利になる一方、知らないうちにカメラやセンサーで皆さんの行動が監視される可能性も高まってしまうのです。

—広告表示といえば、TwitterなどのSNSもすごいですよね。あまりにも私の関心にピッタリな広告が表示されるので、ときどき怖くなります。

LINEやFacebook、TwitterなどのSNSでは、実際の書き込みよりも書き込みからプロファイリングされるデータの方が多いと言われています。どのSNSでも、みなさん、つまりユーザーの言動を細かく分析しているはずです。例えばどんな発言に「いいね」を押すかとか、どんなコンテンツを長時間見ているか（＝どんなコンテンツに興味があるか）とか。思っている以上に我々の行動は細かく分析されていると思います。

こういったプロファイリングのデータに関しては、ユーザはその存在すら知らない。だから、プロファイリング結果による不利益を知らない可能性があるし、間違ったプロファイリングをされていても気づかないという問題があります。

社会において、必要な技術は普及しやすいよう支援しなければなりません。その一方で、行きすぎた技術は規制しなければならない。そのバランスを取るのが重要なんです。

なぜ法整備は「遅れる」のか？

—新しい技術やサービスが登場するスピードに対し、「法整備が何周も遅れている」と批判が上がることもあります。

"技術屋"の中には技術に対して法整備が遅れることに不満を持つ方がおられます。しかし、技術の発展と比較すると、法整備は後追いでいいのです。

なぜかというと、法律を制定するには「立法事実」が必要なためです。

立法事実とは「法律が制定される理由となる事実（できごと）」です。「立法事実」にもとづかず「問題が起きそうだから、先まわりで規制しよう」と考えると、現実にまだ起こっていない問題を想像して法律をつくるわけですから、極端な話、あらゆる行動が規制できてしまう。

国民の生活が過剰にコントロールされる可能性があるため、実際的な問題が起きているかを確認して、どうしても法律を作らないと解決しないのか？を確認してから法整備をはじめることになります。したがって法律は「後追い」にならざるを得ないのです。

スコアリングは現世に「神」を誕生させる？

—『仮面ライダーゼロワン』は人工知能（AI）がテーマだそうですね。実際の社会でも、AIに仕事を奪われるとかいった声もありますが、AIは人と仕事の関係をどう変えるでしょうか。

世間では「AIに仕事が奪われるのでは？」が話題になりがちですが、AIの技術に限らず、歴史の中で求められなくなった仕事はありましたし、一方で新たに求められた仕事もあります。「仕事がなくなる」については、AIに限定した話ではないでしょうね。

『仮面ライダーゼロワン』では毎回、違う仕事がテーマになっています。しかも「AIがあるから職人の技が伝承できる」といったステレオタイプ的な話ではありません。

たぶん、大人向けの評論やフィクションよりも『仮面ライダーゼロワン』の方が未来におけるAIと仕事の関係を深く洞察しているかもしれません。

—子どもも見る作品だからこそ、シナリオに深くこだわっているんですね。逆に、AIに限った問題はあるのでしょうか。

AI特有の問題を考えると、問題となっているのはスコアリング（信用の可視化）だと思います。

スコアリングとは、その人の行動によって信用度を点数（スコア）化し、スコアが高い場合は各種サービスや就活などで優遇され、低い場合は行動が制限されるものです。

日本ではまだそこまで普及していませんが、国によっては非常に熱心に推し進めているところもあります。今後、日本でも活発化する可能性があるでしょう。


スコアリングの問題は二つに分けられます。

一つ目は、その人すべてを点数化できるわけではない点。スコアは、たとえば「ポイ捨てをしない」のように、誰かがあらかじめ設定した基準に沿ってつけられます。逆に言うと、基準が定められていない行動はスコアの判定から漏れてしまう。データとしては不完全なまま、その人の信用が点数化されてしまうのです。

もう一つは、基準の重みづけの問題です。「ポイ捨てをした」「借金を返さなかった」では、おそらく借金のほうがマイナスが大きいですよね。

けれども、中には重みづけに迷う基準もある。人によっては判断が揺れる行動があるんです。

そうなると、スコアリングの基準を決める人（個人）が非常に大きな権限を持つことになります。ある人の行き先を天国/地獄で左右する点で、現世における「神」に近い存在となってしまう。

機械学習などにデータを学習させるとき、データの何を重視させるのか（尺度の重みづけ）によって学習結果、つまりAIの判断は違うものになります。

人は神ではありません。恣意的な運用はいくらでもできてしまいます。スコアリングを通して「神」が誕生してよいのか？　という問題が出てくる可能性があるでしょう。

AIは人間の行動を映す鏡

—スコアリングは技術の「担い手」の資質が問われるのですね。一方、技術の「受け手」はどのようなことに気をつければよいのでしょうか。

現在のAIは人間の行動を学習データにしています。いわば人間の行動を映す鏡であって、善意で使う人がいれば善意のAIになりますし、逆もまたしかりです。AI自体に善悪があるのではなく、使い方次第で善にも悪にもなるのです。

実は『仮面ライダーゼロワン』も、AIの学習が重要な側面になっています。AIにおける「学習」を前面に出したフィクションは（ハリウッド映画を含めても）少ないことを考えると、『仮面ライダーゼロワン』は先端を行った作品です。その意味でも"技術屋"さんを含めて、大人の方も楽しめるかと思います。

AIにテーマにしたSFではAIが人間に置き換わることを描く傾向がありますが、技術的な観点から言うと、人間に置き換わるようなAIはすぐには誕生しません。しばらくは人間をサポートするAIと人間が共存する形になると思います。

『仮面ライダーゼロワン』でも、人間とAIの共存が一つのテーマになっています。子ども向けの番組ですが、技術的であり、同時に哲学的な側面をもっているといえるでしょう。

AIが人間をサポートしてくれたり、さらにAIと人間が共存したときに問われるのが人間の意志の強さです。物事を自分で判断する力と言い換えてもよいかもしれません。

現在でもレビューサイトの点数を鵜呑みにし、サジェストに従った行動をとる方は珍しくありませんよね。

同じことがAIでも起こるでしょう。AIの技術自体が問題なのではなく、AIの判断を無批判に受け入れ、行動してしまうことが問題なのです。

—ありがとうございました。 

『仮面ライダーゼロワン』（ｃ）2019 石森プロ・テレビ朝日・ADK EM・東映