     |
悪用する側の取り入れは早い！
.
.
2018年02月21日、「人工知能はもう悪用される段階に 専門家警告」と題する記事が掲載された。
.
ミサイルに変化するドローン（無人機）、世論を操る偽物のビデオ、自動化されたハッキング。これらは、悪の手に渡った人工知能（AI）がもたらす脅威の一部に過ぎない。第一線のAI専門家26人が、警告を発表した。
.
14機関の専門家26人が2月、英オックスフォードでAIの危険についてワークショップを開いた。その結果をもとにした報告書「悪意ある人工知能の利用」は、ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。
.
100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、“デジタル、現実世界、政治”を特定している。
.
報告書には、AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、今まで以上に努力する必要があるという。各国政府は新たな法律を検討しなくてはならないとも提言している。
.
報告書の主な提言は次の通り――。
.
政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
.
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可
能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野（たとえばコンピューターのセキュリティ）から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる
.
ケンブリッジ大学人類絶滅リスク研究センター（CSER）のシャハール・アビン博士は、遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、報告書についてBBCに話した。
.
特に気がかりののは「強化学習」と呼ばれる新分野だ。人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。
.
アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。
.
・グーグルのディープマインドが開発し、人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのようなフェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます
.
オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。
.
「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」
.
「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」
.
報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。この報告書は、今後5～10年間の世界の様子を想定 している」と説明する。
.
「私たちはAIの悪用で日々、危険にさらされかねない世界に住んでいる。私たちはこの問題を、自分たちの問題として捉える必要がある。リスクは実際に存在するからだ」
.
「いま決めなくてはならないことがいくつかある。我々の報告書は、世界中の政府や機関、個人に行動を起こすよう呼びかけるものだ」
.
「AIと機械学習についてはもう何十年も、事実よりもおおげさな話ばかりが注目されてきた。それではもう駄目だ。この報告書では、もう効果がなくなった慣習に着目し、役に立つだろう様々な方法を提案している。例えば、ハッキングされにくいソフトウェアやハードウェアの設計方法や、どういう法律や国際規制なら有効に連携できるかなどの提案だ」
.
現実の世界は、想像以上に危険に満ちたものだが、一般の人々には人工知能が「どこで、どう動いているのか」判断することは難しいだろう。
.
いま。どのようなAIが開発され、どのように利用されているのか、AIニュースを拾ってみた。
.
.
“AIを悪用したサイバー攻撃が登場、対抗策の「機械学習アルゴリズム」に脚光！”
ハッカーの技術はますます高度になっている。機械学習を利用する手口もその1つだ。こうした攻撃に対抗するには、防御側も機械学習を使ってサイバー脅威を早期検出するのが効果的だと、専門家はアドバイスする。
.
信用格付け機関のEquifaxで起きたようなデータ漏えいや、「WannaCry」のような身代金要求型マルウェア（ランサムウェア）が増加の一途をたどっている。だがそれだけではない。人工知能（AI）の支援を受けたサイバー攻撃の兆候が表面化している。サイバーセキュリティ企業Darktraceは、AIを悪用する攻撃を最近インドで発見した。この攻撃は、機械学習アルゴリズムを使ってネットワーク内でのユーザーの動作を模倣して検出を回避する。
.
「悪意を持ってAIを利用する活動が見受けられる。こうした活動では、機械学習を利用してユーザーのPCを攻撃し、そのPCが所有者に敵対するように仕向ける」と話すのは、Darktraceでコマーシャルセールス部門のディレクターを務めるキャメロン・アームストロング氏だ。
.
このような攻撃は厄介だ。攻撃者が企業ネットワークにどのように侵入し、攻撃を仕掛けるかを把握する適切な方法がない。そのため、早期警告を行う兆候を見つけるのが難しい。これは、2018年3月中旬に開催されたイベント「InfoSecWorld conference」でのアームストロング氏の発言だ。
.
.
“本物のロボットを主演俳優として起用する映画が製作へ ─ 人工知能に演技を教える！”
ロボットが人間の仕事を奪うようになる？俳優たちにとっても他人事ではないかもしれない。
.
本物のロボットに演技を覚えさせ、主演として起用する映画が近く製作されることが分かった。発起人は、『アメリカン・ヒストリーX』（2000）などで知られるイギリスの映画監督トニー・キー。2018年7月に米公開のコメディ映画『1st Born（原題）』の続編、その名も『2nd Born（原題）』として製作する。米Deadlineが報じた。
“ロボットに演技をさせる”と聞くと、ウィル・スミス主演の『アイ,ロボット』 （2004）や『エクス・マキナ』（2015）のようなSF映画を想像するかもしれないが、トニー・キーが構想する『2nd Born』はロマンティック・コメディとなる予定。『1st Born』は、イラン人とアメリカ人夫婦の初子を巡って、両親のカルチャー・ギャップをコメディタッチで描くものだ。
.
トニーは、人工知能の映画起用についてプロデューサーとディスカッションするうち、このアイデアに至ったという。報道によれば、メソッド演技などの演技法を人工知能に体得させるということだ。ロボットが映画俳優になるのは史上初。
これより、アメリカの映画俳優組合（SAG）の認可を得る必要があるとされる。
ロボット主演の映画『2nd Born』製作スケジュールや公開時期、あらすじなどの詳細は現時点で不明だが、注目せずにはいられない話題が登場した。未来のスクリーンでは、プログラムされたロボット俳優がアクションやドラマを繰り広げているのかもしれない。
.
.
“「地球のような惑星探したい」 Googleが明かす、AIで新惑星見つける方法”
「次は、生命体を支える条件が整った地球のような惑星がないか探すことにチャレンジしたい」――米GoogleでAI（人工知能）技術を使って太陽系外惑星を探索するプロジェクトを担当するAIシニアソフトウェアエンジニアのクリストファー・シャルーさんは、こう話す。
.
惑星探索には、米航空宇宙局（NASA）のケプラー宇宙望遠鏡（09年に打ち上げ）が収集した公開データを利用するのが通例。
.
従来、科学者たちは自動化されたソフトウェアを使ってケプラーのデータからシグナルを検出し、目視で惑星かどうかチェックしていた。その量は膨大で、SN比（信号雑音比）でしきい値を下回ったものは破棄していたが、これまで人の手で精査されたシグナル数は3万個を超えるとされる。
.
シャルーさんらは、このしきい値を下回ったデータを機械学習を使って分析。
特定のシグナルの波形が惑星によって生じるものである確率を予測するため、畳み込みニューラルネットワーク（CNN）を構築した。
.
人間が惑星か否かを分類した1万5000件のケプラーの波形データを用意し、惑星のシグナルとそうでないものに見分けられるようにニューラルネットワークに学習させたとしている。
.
実際のケプラーのデータを機械学習モデルに読み込ませることで、「ケプラー90i」「ケプラー80g」という2個の新惑星を発見できた。
.
地球のような生命が居住可能な惑星の探索にチャレンジしているが、3つの点から難航しているという。
.
それは、（1）地球のような性質を持つ惑星は恒星からかなり距離があり、軌道周回の回数が少ないので分析の確度が担保できないこと、（2）惑星のサイズが小さいので、光度の低下が観測しにくいこと、（3）地球のような軌道を描く惑星が少ないため教師データも十分でなく機械学習モデルを構築しにくい、といった点だ。
.
これらの課題を解決する一手段として、シャルーさんは音声合成アルゴリズム
「WaveNet」に注目。「音とライトカーブの波形は似ているので、WaveNetを使っ
たアルゴリズムの改善もしたい」という。新たな宇宙望遠鏡を使った惑星探索も
視野に入れている。
.
米航空宇宙局（NASA）のケプラー宇宙望遠鏡（09年に打ち上げ）が収集した公開
データを利用して「ライトカーブ」と呼ばれるU字曲線を観測します。
.
「ライトカーブ」は、恒星を周回する惑星が恒星の前を通過するとき、一時的に光の一部が遮られるため、恒星の明るさが減少してまた回復する軌跡を描いたものです。
.
Googleは地球のような生命が居住可能な惑星の探索にもチャレンジしているので、近い未来に第２の地球が見つかる可能性もありますね。
.
米航空宇宙局（NASA）のKepler宇宙望遠鏡のデータをAI（人工知能）で解析し、太陽系と同じ8個の惑星を持つ恒星系を2017年12月に発見したGoogle。その次なる挑戦は「地球のような惑星を探すこと」だという。
.
.
“ AIで営業成績の良いスタッフのトーク内容を分析、人材教育に役立てるソリューションを開発”
認知バイアスを取り除くためのソフトウェアを開発する、コグニティ株式会社( 本社：東京都品川区、代表取締役：河野 理愛 以下コグニティ)は、この度、NPS(R)をはじめとした顧客感情データの調査・分析クラウドを提供する、株式会社Emotion Tech(本社：東京都千代田区、代表取締役：今西 良光)と顧客体験向上や接客品質向上を目的とした新ソリューションをリリースした。
.
【サービスの概要】
(1) 営業トークのデータ化
各営業担当の営業トークをデータ化、コグニティ独自のAI(知識表現)フレームワーク「CogStructure」を使い、営業成績ごとのトークフローやトーク内容を分析する。
.
(2) トーク内容のポイントを分析
トークフローを基にEmotionTechがNPS(R)を調査し、「営業担当への顧客評価」「 営業成績」「営業トーク」を掛け合わせ、統計解析・AIを用いた分析を行います。これにより、営業成績が良い担当が行っている活動の「何が重要なのか」を明確にする。
.
(3) 全スタッフの営業品質を底上げ
分析の結果導かれた「重要なトーク内容」を全スタッフが習得できるよう、モデルトークを作成・教育する。
.
(4) 改善効果検証とPDCAサイクル
研修の結果、営業成績・営業担当への評価が向上したかを再度分析して効果検証をします。また再度(2)同様の分析を行うことで、より精度の高い改善施策が明確になる。
.
これにより、営業成績が良い担当が行っている活動の「何が重要なのか」を明確にする。これからはAIが上司になる日が来るかもしれない。
.
.
”人の安心・安全のために働くAI”
人工知能（AI）を業務に活用する例は、もはや珍しくなくなりつつある。様々な業種で、急ピッチで導入が進んでいる。最も目立っているのが画像認識を利用するもので、数多くの画像パターンをAIに学習させて、類似パターンを探したり、通常パターンに合わない異物を探したりする使い方だ。
.
その代表例と言える用途が工場での検品である。ラインを流れてくる製造物の中に、不良品が紛れ込んでいないかをチェックする。具体例を挙げると、キユーピーが食品加工の工場内で利用している。
また、飛行機の搭乗橋（ボーディングゲート）というものもある。空港のゲートと航空機の入り口を結ぶ、渡り廊下のような、あれだ。2018年7月、成田空港が、AIを使って航空機に自動装着する搭乗橋を導入すると発表している。
.
また別の分野での代表的な例として、小売店舗でのAI活用も挙げられる。最も進んだ例は、米Amazon.comのリアル店舗「Amazon Go」だろう。画像認識やAIを組み合わせたシステムで、店舗を訪れた客が、それぞれ何を手にとり購入したかを捕捉し、自動的に課金する。店内のスタッフは、商品を補充したり、来客を案内したりするだけ。店舗内にレジはなく、支払いはすべてオンライン決済である。
.
.
“警備業のALSOKは街中で困っている人を見つけてサポートする「新しいおもてなし」に挑戦”
.
ALSOKは過去の経験などから、人の行動・動きのパターンによって何が起こっているのかを判別するノウハウを持っている。これをディープラーニングエンジンに学習させ、人が何に困っているのかを判別できるAIを作り出した。
医療分野で比較的目立つ利用シーンは、内視鏡やレントゲン、あるいは病理などでの画像診断である。東京大学発のベンチャー企業、エルピクセルは、脳MRIや胸部X線、乳腺MRI、大腸内視鏡、病理などの医療画像の診断支援技術を開発している。同様に国立がん研究センターでは、内視鏡で見た画像からの大腸がんの診断に画像認識AIを活用しようとしている。少し領域は異なるものの、同じ医療分野での画像診断としては、病理でのAI活用も研究開発が進められている。
.
創薬は、まだ特効薬のない病気に対する解決策、あるいは、より服用効果の高い薬を生み出すために欠かせない取り組み。ただ、医療用医薬品候補化合物（新薬候補）が枯渇する傾向にあるなど、開発には膨大な作業負担と費用がかかる。
.
ここにAIを使うことで、目指す効用を持つ薬を効率的に開発できるようにしようという動きがある。エクサウィザーズは理化学研究所、京都大学と協力して、化合物の活性予測、可視化、化合物生成（シミュレーション）を実行するAI技術 を開発した。過去の創薬のデータを使って、化合物のうち効用を発揮する部分を自動抽出し、そこを保持したまま、ほかの部分の組み合わせを変えることで、もっと効果が高い薬や、ほかの効用を兼ね備えた化合物を導き出す。こうすることで、例えば個別化医療に対応できる新薬などを効率的に開発できる可能性が高まる。
.
.
“「Telegram」「Signal」が悪用される事例が相次ぐ”
テレグラムやシグナルなど海外で開発された機密性の高い無料通信アプリが、暴力団関係者や特殊詐欺グループなどによって、振り込め詐欺や違薬物の売買などの犯罪の連絡手段として悪用されているという。LINEはやり取りの履歴が残る上、履歴を消去しても技術的に復元が可能とされるが、これらは一度消去してしまえば復元は困難なのだという。例えば、振り込め詐欺の犯行は高度に役割分担がなされ、相互に知らない関係であっても犯行は可能だ。したがって、関係者間の連絡の記録がその関係性を立証する重要な証拠となるが、それが完全に消去されれば摘発は困難だ。暗号化技術を用いて通信内容を保護し、消去後の復元が困難となる利便性は、犯罪者にとって「犯罪インフラ」でもある。行き過ぎた利便性が社会的害悪をもたらすなら、厳格な規制も必要となろう。
.
.
“談合や汚職の芽、AIが発見”
日本企業の間で、人工知能（AI）で従業員の業務用メールを解析し、談合や汚職などの不正を早期発見するシステムを導入する動きが広がっている。不正を示唆する単語や文章を自動的に感知でき、人間がいちいちチェックするよりも効率的だ。
.
「同業者からのメールは内部監査部門が内容をチェック。ＡＩの活用も検討する」。リニア中央新幹線の建設工事を巡る談合事件を踏まえ、大林組が5月に発表した再発防止策。企業のコンプライアンス（法令順守）担当者らの注目を浴びたのが、最新技術を活用する徹底したメール監視方針だった。
.
大林組はAI活用について「あくまで検討段階」として詳細は明らかにしない。だがデータ処理サービスのケーエル・ディスカバリ（東京・千代田）は「従業員のメールをチェックするAIシステムは急速に普及している」と話す。社内文書の電子化が進んだ米国で10年ほど前から広がり、日本でもここ数年増えたという。ＡＩシステムを開発するフロンテオは2014年以降、矢崎総業や東洋ゴム工業など約20社に納入した。
.
AIは不正に関与しそうな単語を拾うだけでなく、文脈も判断材料にする。例えば談合を警戒している場合、営業担当者が他社と交わしたメールでは、単に「飲みましょう」としたものより、「久々ですね」や「個室をとります」などを含んだものを、より怪しいとみなす。AIは「定期的に内密な話をしていそうだ」と分析するからだ。
.
AI によるチェックも万能ではない。
「完全にＡＩをすり抜けた」。日本ガイシの関係者は苦い表情を浮かべる。海外での価格カルテル問題を踏まえ、14年にＡＩシステムを導入。だが18年、新たに品質検査不正が発覚した。端緒はメールチェックとは別の関係者の聞き取り調査。AIは数年間、従業員のメールを読み続けていたが、この不正には気づけなかったことになる。
.
これらのシステム導入には、個人のプライバシー問題がある。AI での徹底監視はプライバシー侵害を指摘される可能性もある」と説明。そのうえで「チェックの目的や内容を会社が従業員や労働組合に説明し、合意を得ることも大切だ」と助言する。
.