Google詐欺対策強化インドでAI活用と実績データを公開

GoogleがインドでAIを使った詐欺対策を強化する「Safety Charter」を発表

インドで、Googleが「セーフティチャーター」というものを発表したみたいですね。AI関連の詐欺対策とか、不正検知の仕組みをもっと広げていく意図だと言われています。アメリカ以外だとインドがGoogleにとってかなり大きな市場なんだそうですけど、最近インド国内のデジタル詐欺が増えている、という話はあちこちで耳にします。

例えば政府系の即時決済システム、UPIという名前だった気がしますけど、それを利用した被害額もこの一年くらいで八十億ルピーを超えたとか。前年と比べても相当増えてるらしいです。ざっくり言うと、一年でほぼ倍近くになったとも聞きました。ただ、この数字は多少前後することもあるので一概には言えない部分も。

他にも、「デジタル逮捕」って呼ばれている手口があって、公的機関の職員のふりをしてビデオ通話でお金を脅し取る人たちや、怪しいローンアプリ経由で被害に遭うケースも目立つようになってきました。

Googleとしては、その辺りに何かしら対応しようとしている感じでしょうか。セーフティチャーターによって全部解決できるわけではないかもしれませんが、少なくとも一部の問題へのアプローチにはなり得るんじゃないかな、と考える専門家もいるようです。それでも状況はまだ流動的なので、今後どうなるかまでは何とも…

インドに新設されたセキュリティエンジニアリングセンターGSecの役割とは

インドにも、グーグルのセキュリティエンジニアリング拠点が出来たらしい。どうやらこれでダブリンやミュンヘン、それからマラガに続いて四つ目らしいけど、正確な順番は誰か詳しい人じゃないとわからないだろうね。なんとなく去年あたり、「Google for India」っていうイベントで話が出ていたような気もする。GSecという名称になっているみたいで、その目的としては政府や大学関係者、学生さん、中小企業などと一緒にサイバーセキュリティとかプライバシー、それからAI関連の課題解決に取り組むことを考えてる、とグーグルのセキュリティ部門の副社長があるメディアとの会話で語ったそう。

あと、インド内務省のサイバー犯罪対策機関（I4C）とも協力しているとか。最近発表されたブログでも言及されていたみたいだけど、これによってネット詐欺への注意喚起活動が進むんじゃないかなという声もある。ただ、この辺は新しく始まったことというよりは、数年前から進めてきた取り組みに上乗せする形っぽい。「DigiKavach」というオンライン詐欺特定プログラムもすでに動いていて、悪質な金融系アプリや怪しいローンアプリによる被害軽減を目指していた、と聞いたことがある。

インドGSecについてだけど、副社長さんによれば三つぐらい大事なテーマがあるみたい。一つはネット詐欺・オンライン上の安全性問題、それから企業や政府機関など重要なインフラ全体のサイバー防御。そして最後にAIを使う時に責任を持って開発・活用するって部分。この三本柱みたいなのが中心になる、と説明していたけれど、実際には状況次第で柔軟に変わるかもしれないし、その効果についても今後様子を見る必要がありそうだよね。全部まとめると、新しい試みだけど具体的成果はこれから少しずつ見えてくる…そんな段階かなと思う。

Comparison Table:

テーマ	概要	影響	対策	今後の展望
生成AIの悪用防止策	GoogleはSecure AI Frameworkを模索し、業界全体でAI乱用を防ぐ取り組みを進めている。	ハッカーによるAIの利用が増加する可能性があり、セキュリティ課題が浮上している。	複数エージェント間の安全性確保や共同研究が必要とされている。	今後も様々なフレームワークやプロトコルが開発される見込み。
サイバー攻撃ツールの市場動向	商業的な監視ソフトウェアやハッキングツールが増加しており、手頃な価格で入手可能になっている。	特に小規模な企業によるツール販売が活発化しており、サイバー犯罪を助長する恐れがある。	これに対抗するためには、法整備や国際的な協力が鍵となるだろう。	将来的にはより厳格な規制と監視機関の強化が求められるかもしれない。
パスワードレス認証の進展	Googleは多要素認証（MFA）やパスワードレス認証を推奨しているものの、その普及は地域差がある。	インドなどではSMS認証が好まれており、安全性に疑問も残る中で使用され続けている。	ユーザー教育とともに、多様な認証手段への移行促進が急務となっている。	各国・地域ごとのニーズに応じた柔軟な対応策を考える必要性あり。
新たな詐欺手口の出現	AI技術を利用した新しい詐欺方法（偽動画・声まね詐欺など）が広まりつつある。	`デジタル逮捕`という新種の詐欺事件も増えてきており警戒すべき事態になっている。	`従来型詐欺`からネット上での新しい形態への変化に注目することが重要だと指摘されている。	`不正行為側も急速に進化していて、新たな脅威として意識され始めている`との見解もある。
未来予測と課題	サイバーセキュリティ分野は常時変動し、新たなる脅威への迅速対応能力を求められる状況である.	専門家によれば、この流れは世界各地でも見られるようになるとのことであった.	`初期研究段階では過度な制限なく自由度高く活動できる環境作り` が大切と言われていた.	`情報収集や分析能力向上へ向けた取り組み等にも期待される.`

オンライン詐欺対策とAIの責任ある開発がGoogleの重点テーマに

インドのためのセーフティーチャーターに、どうもこの三つの分野が加わるらしい。アドキンス氏が言うには、エンジニアリングの強みを生かして―まあ、現地で起きていることを身近なところから解決したいって話だったかな。最近だと世界中でAI技術を使ってオンライン詐欺や広告関連の問題に取り組んでいるそうだけど、その取り組みも実際全部同じようには進んでいないような印象。

Googleメッセージはよく最初からAndroid端末に入ってるものだけど、AIによる詐欺メッセージ検知機能があって、何十億通もの怪しいSMSが毎月どうやら阻止されているとか聞いた。ただその数字も正確なのかは分からないけれど、多くの人が恩恵を受けている可能性はありそう。

一方で、去年ぐらいにインド向けとしてPlay Protectという仕組みも一部導入して試してみたらしく、高リスクなアプリのインストールを止めた例は何万回にも上ったと言われていたかな。それによって十数万種類ものアプリ配信停止につながり、おそらく千数百万台規模でデバイスへの影響を防げたと説明されていた気がする。まあ細かい数字よりも、実際こういう対策が段階的に広まってきていること自体は注目できるポイントかもしれない。

Google MessagesやPlay Protectが月間5億件の怪しいメッセージをブロック

インドでは、Google Payがよく使われているけど、このアプリが最近、何千万回もの怪しい取引に対して警告を表示したらしい。正確な数字はちょっと思い出せないが、とにかくかなりの数だったとか。その一方で、グーグルのセキュリティチーム創設メンバーのアドキンス氏――たぶんもう二十年以上も会社に関わっているはず――が、テッククランチの取材中に色々語っていた。

AIについても話題になっていて、「AIの利用や悪用を常に気にかけてる」と彼女は述べていたようだ。ここ最近は、大規模言語モデル（Geminiなど）が主には生産性アップ目的で使われる傾向が強いみたいだけど、それでもフィッシング詐欺なんかにはちょっと影響してきた感じもある。特に犯人と被害者で母語が違う場合なんか、翻訳機能や画像・動画編集で詐欺っぽさを隠しやすくなる…そんな印象を持っている人もいるらしい。でも今のところ、その動きはまだ限定的だという意見も聞こえてきた。深層偽造技術（ディープフェイク）とか画像加工も絡むから、実際のところどう広まるかは少し様子見になるかもしれない。それでも、一部ユーザーからはこうした変化について不安視する声もあったみたいだ。

Google Payが4100万件の不正取引警告でユーザーを保護

グーグルのアドキンス氏が、AIモデルについてあれこれ話していたんだけど、どうやら会社では色々なテストをかなり長い時間かけて実施しているみたいで。何十回も繰り返し確認することが普通なのかもしれない。ただ、全部完璧に分かっているとは言い切れないような雰囲気も感じた。生成される内容が人によっては有害になりそうだとか、時にはAI自身の行動にも問題が起きる可能性を考えているらしい。どちらも無視できない課題だとアドキンスさんは言及していたけど、その話題は途中で他の話に流れてしまった気もする。結局のところ、何かしら手探り状態が続いている印象だったかな。

悪意あるAI利用への懸念—フィッシング詐欺が多言語化する危険性

グーグルが最近、ジェミニのような生成AIモデルの悪用を抑えるためにSecure AI Frameworkなどいくつか枠組みを模索しているという話がある。けれども、将来ハッカーによるAIの乱用から守るには、どうやら複数エージェント間のやりとり自体に安全性を考慮する仕組みも必要になってきそうだ、そんな意見も社内で出ているらしい。

業界全体は、ここ数年でスピード重視でプロトコルやソフトウェアを次々公開していて——なんだか昔インターネットが始まった頃の空気にちょっと似ている、と指摘する声もあった。今は多くの場合、安全策は後回しになることが多いようだ。アドキンス氏も「皆リアルタイムでコード出し合ってる感じ」と述べたとか。

ちなみに、グーグル側としては自社だけの独特な基準・フレームワークに閉じこもってしまう形はできれば避けたいらしくて……要するにAI乱用防止策を業界全体で広げていきたい思惑がある模様。ただ実際どこまで進むかはまだ分からない部分が残っている、とも言われている。

Geminiモデルの悪用防止に向けたGoogleのセキュアAIフレームワーク構築

アドキンスさんが言うには、どうやらその会社は研究者や開発者と一緒に取り組んでいるみたい。早い段階であまり厳しい制限をかけるのは、たぶん得策じゃないって話もちらほら聞こえてくる。「初期の研究フェーズでは自分たちを縛りすぎないことが大切だと思う」と、彼がどこかで言っていたような気がする。

それから監視ツールのベンダーについても触れていたかな。生成AIが悪用される可能性ももちろんあるけれど、それよりも商業的な監視ソフトを扱う業者が気になる、と彼は話していたようだった。NSOグループとかいう有名なスパイウェア企業、ペガサスという名前だったかな、そういった企業以外にも、小規模なツール販売会社はいくつも存在しているらしい。この手の会社が世界中に次々と現れていて、ハッキング用の仕組みを作ったり売ったりしているんだとか。

ただ、その数や影響力については正確なところまではよくわからないし、「何十社」という表現になるかもしれないし、それより多いかもしれない。詳しく調べてみても情報が断片的だったり、人によって見方もちょっと違うかもしれないね。

スパイウェア業界よりも脅威？監視ツールベンダーの台頭に警鐘

例えば、サイバー攻撃用のプラットフォームを手に入れようと思えば、金額はほんの数千円程度から、時には高級車が買えるくらいまで幅広いみたいだ。まあ、そのツールの出来や仕組みにもよるらしいけど、自分で詳しくなくても簡単に人を狙えてしまう…そういう話がちらほら聞こえてくる。どこかで売っているツールは、インドなんかでも使われていることがあるんだとか。ただ、この国の場合、どうも監視系ツールだけじゃ済まない複雑さがあるような印象を受ける。

人口も多いし規模も大きいからなのか、AIで作ったニセ動画や声まね詐欺みたいなものから、「デジタル逮捕」なんて呼ばれる詐欺まで―ちょっと前には考えもしなかった種類の事件まで起きている気がする。アドキンス氏によれば、それって結局従来型の詐欺がネット化しただけとも言える、と話していたような…。なんとなく思うんだけど、不正行為をする側の動きもかなり早く進化していて、この地域では特にそのスピード感を研究対象として面白いと感じている専門家も少なくないらしい。

細かいところは曖昧だけれど、とにかく今は色々な脅威や新しい手口が混在していて、「何年か前とは比べものにならないくらい状況が変わってきた」と感じる人も増えているみたい。でも、その全容はまだつかめていない部分もありそうだ。

デジタル逮捕詐欺から学ぶ—サイバー犯罪の進化は世界の先行指標だ

アドキンス氏が言っていた、「多分こういう流れは、いずれ世界のあちこちで見かけるようになるんじゃないかな」みたいな話があった。Googleもずっと前から、パスワードだけに頼らない認証方法をユーザーに勧めてきたような気がする。なんとなく数年前には、多くのアカウントで多要素認証（MFA）を自動的に有効化したこともあったし、最近だと社員が普段使っているノートPCでもハードウェアキーを使う場面が増えているとかいう話を耳にしたこともある。

パスワード無し認証——いわゆる「パスワードレス」って表現も、いつからか流行り始めていて。でも、その意味合いは人や状況によって結構ばらつきがあるっぽい。実際のところ、インドみたいな人口規模や経済状況がものすごく幅広い国で、一気に従来型のパスワードを全部捨てるなんて、そう簡単じゃないという声も聞こえてくる。

まあ細かい所までどうだったか曖昧だけど、とにかく色々な背景や事情、それぞれ違う使われ方が混じり合っている感じ。だから誰にとってもピッタリ同じ方法になるとは限らなくて、部分的には今後変化していく可能性もありそうだ。

インド市場でパスワード依存から脱却できない現実とMFA普及の壁

パスワードがどうも昔からあまり安全だとは思われていなかったようで、実際にそういう話はよく耳にする。アドキンス氏も、「多要素認証ってものが出てきたのは、まあ一歩前進だったかな」とどこか控えめな口ぶりで語っていたっけ。ただ、この辺のセキュリティ事情って、いろんな国や地域によってちょっとずつ違うらしい。インドの場合だと、他の手段よりSMSを使った認証方法を好む人がかなり多い印象がある、と彼は言及していた気がする。でも実際、それがどれくらい定着しているのかは曖昧な部分も残るし、「将来どうなるんだろうね」とぼんやりした空気になったりもする。全部が完璧に説明できるわけじゃないけど、多くの人にとってSMS経由でコードを受け取る方式は親しみやすかったり、他と比べて導入しやすい面もあるとか。もちろん、それだけで十分かというと疑問も残るものの、現場では今でも根強く選ばれているみたい。