AIへの過度依存が今なぜリスクなのか?避けたい失敗と現実的な対応策

Published on: | Last updated:

AI に全部丸投げすると、いざという時マジで動けなくなる話

今の空気って、「考えるよりググる」「迷ったらとりあえず ChatGPT」みたいな感じが当たり前になってきてるじゃないですか。

便利だし、自分も普通に使うんだけど、頭のどこかでずっと引っかかってるのが、「これって、筋トレ全部サボって ex マシンに乗ってるだけじゃない?」って感覚で。

で、そのモヤモヤを説明する時に、前に本で読んで印象に残ってるのがダーウィンとか、ガラパゴスのフィンチの話なんですよ。

結論だけ先に言うと、AI を使うこと自体が危険なんじゃなくて、「AI がないと何もできない状態」に自分を慣らすのが一番ヤバい、って話です。

全部 AI 任せの机と、自分の頭もちゃんと使ってる机。見た目はどっちも「仕事してる」っぽいけど、中身が全然違う。
全部 AI 任せの机と、自分の頭もちゃんと使ってる机。見た目はどっちも「仕事してる」っぽいけど、中身が全然違う。

ダーウィンとガラパゴスのフィンチが教えてくれたこと

昔読んだダーウィン関係の本で、「あーこれ、人間のスキルにもそのまま当てはまるな」と思ったのがガラパゴスのフィンチの話で。

ざっくり:ある島で大きな干ばつが来て、柔らかい小さい種がほぼ消えた時期があったらしいんですよ。

その時、小さいクチバシの鳥たちはその柔らかい種しかちゃんと食べられなくて、餓死した個体がめちゃくちゃ増えた。

逆に、たまたまクチバシが大きくて固い種も割れるフィンチだけが生き残って、次の世代を残した

観察してた研究者がちゃんと測ったら、本当に干ばつの後の世代は、平均でクチバシが大きくなってた、っていうやつ。

ここでのポイント:「強いものが勝つ」じゃなくて、「その環境に合ってたやつが残る」っていうだけなんですよね。

環境が変われば、「強い」の定義もサクッと変わる。

で、もう一つ有名なのがイギリスの「まだらガ(peppered moth)」。

工業化前のキレイな森だと、木の皮が明るくて苔も生えてて、白っぽいまだらガがめちゃくちゃカモフラージュ上手だった。

逆に黒っぽい変異体はすぐ鳥に見つかって食べられるから、ほとんどいなかった。

ところが、石炭バンバン焚く時代になって、木がススで真っ黒になって、苔も死んで、景色が一気に変わる。

そうなると今度は、白いガがめちゃくちゃ目立つ。

結果、黒いガのほうが隠れるのうまくて、数十年のうちに黒い個体がほぼ 100%近くまで増えた、っていうデータが残ってる。

で、ここから人間の話に無理やりつなげると:

今の「AI だらけの環境」って、ある意味で「ススで真っ黒になった森」みたいなもので。

・暗算しなくてもスマホが計算してくれる
・道覚えなくてもナビが全部案内してくれる
・調べなくても AI が日本語に要約してくれる

この環境だと、「自分で考える力を鍛える人」よりも、「全部 AI に投げて素早く結果を出す人」のほうが、短期的には有利に見えるんですよね。

でもダーウィン的に言うと、「今の環境で有利」ってだけで、「次の環境でも生き残れる」とは全然限らない。

もし、何かの理由で AI が一時的に使えなくなるとか、精度がガタ落ちするとか、規制で制限されるとか、そういう「環境の揺り戻し」が来たとき。

そのときまでに自分のスキルをどこまで削ってしまっているか、って話になってくる。

使わない能力は削られていく」って、進化の世界では当たり前

生物の進化の話を追っかけてると、よく出てくるのが「使わない機能はだんだん萎んでいく」というパターンで。

クジラとかヘビって、もともと四本足の先祖から進化してきたって言われてるんですけど、今は足ないじゃないですか。

でも骨格をよく見ると、クジラの体の中にちっちゃい骨盤の名残があったり、ヘビの中には小さな突起みたいな「元・後ろ足」みたいなのが残ってたりする。

「もう使わないから、コストだけかかる部分はどんどん縮んでいった結果」って感じなんですよね。

鳥もそうで、昔の恐竜みたいな先祖は歯があったのに、今の鳥は歯がない。

クチバシと砂嚢(胃の中で食べ物を砕くパーツ)で十分処理できるようになって、重い歯を持たないほうが飛ぶのにも有利だった、っていう解釈がされてる。

もっと分かりやすい例:洞窟の中で暮らしてる魚。

完全に真っ暗な洞窟の中だと、目があっても意味ないんですよね。

で、有名なのが「アスティアナックス(Astyanax mexicanus)」っていう洞窟魚で、これ、最初は普通に目ができかけるのに、途中で目が退化していくんですよ。

研究のレポートを前に読んだとき、「うわ、本当に途中まで作ってからやめてる…」ってちょっとゾッとした。

視覚が全く役に立たない環境だと、「目を維持するコスト」を払う意味がなくなって、その分、触覚とか味覚センサーがめちゃくちゃ発達する

スティックルバック(トゲウオ)っていう小さい魚も、外洋にいるタイプは天敵から守るためのガチガチのトゲや装甲を持ってるんだけど、

氷期のあとに、天敵のいない湖に閉じ込められたグループは、そのトゲをどんどん失っていったっていう研究がスタンフォードから出てました。

一部の湖では、トゲがあると逆にトンボの幼虫に掴まれやすくて不利だったらしくて、「昔の武装」が足かせになったパターン。

共通してるのは:

・使わない機能は、守られない
・たまたま「そこにエネルギーを使わない個体」が出てくると、そのほうが有利になって、そっちが広がっていく

っていう、すごくシンプルな流れ。

これ、人間のスキルにもそのまま当てはまるんじゃないかって、ずっと思ってて。

脳の中でも同じことが起きてる:シナプスの「刈り込み」

進化レベルの何万年みたいな話じゃなくて、人間の一生の中でも「使わない能力が削られていく」っていうのは、神経科学でもよく言われてます。

子どもの頃って、脳の中でシナプス(神経細胞同士のつながり)がめちゃくちゃ大量に作られるらしいんですよね。

で、ある時期から「剪定(pruning)」っていって、よく使う回路は太く残って、あんまり使わない回路は細くなって消されていく

ヘルスライン系の解説サイトで読んだ記憶だと、「Use it or lose it(使わないなら失う)」ってフレーズがそのまま使われてて、あぁ、生物ってどこまで行っても同じなんだなって感じた。

有名な実験:子猫とか若い動物の片目だけ光を入れないようにして育てると、その目自体は物理的には無事なのに、脳のほうの視覚領域が発達しなくて、一生その目からの情報をちゃんと処理できなくなる、っていうやつ。

「見えてない」のは目じゃなくて、脳側。

逆に、人間のバイオリニストとか、ある指だけを異常なレベルで使う職業の人って、その指に対応する脳のマップが広がってる、っていう話もよく出てくる。

使うところはどんどん強化されて、使わないところはどんどん削られる。

ロンドンのタクシードライバーの研究も面白くて、めちゃくちゃ複雑な街をナビなしで走り回ってる人たちは、空間記憶に関わる海馬が普通の人より発達してたっていう報告があるんですよね。

でも、もし彼らがずっと GPS だけに頼る生活に変えたら、その差はだんだん消えていくはずで。

脳の可塑性って、「鍛えれば伸びる」っていう明るい話と同時に、「サボれば普通にしぼむ」っていう暗い話でもある。

AI にどんどん仕事を渡すっていうのは、ある意味で「特定の回路をほとんど発火させない選択」をしてるとも言える。

もうすでに起きてる「デジタル筋力低下」

こういう生物学とか脳科学の話って、抽象的な例え話で終わりがちなんですけど、実際もう「ヤバそうな兆候」はいくつも出ていて。

1. 記憶:Google 効果

コロンビア大学の研究で読んだんだけど、人って「あとでネットで調べられる」と思ってる情報に対して、中身そのものを覚えようとしなくなる傾向があるらしいです。

代わりに、「どこでそれが見つかるか」「どうやって検索すればいいか」だけを覚える。

いわゆる「デジタル健忘症」みたいなやつで、

・電話番号を覚えない
・細かい事実より「あとで Wikipedia 見ればいいや」で流す

っていうのが、もう当たり前になってきてる。

これ自体がすぐに悪いとは言わないけど、「何も参照できない状態で、自分の頭だけでどこまで組み立てられるか」っていう能力は、確実に弱くなっていくはず。

2. 方向感覚:GPS に頼り切った結果

ネイチャー系のジャーナルで 2020 年頃に出てた研究だと、GPS への依存が高い人ほど、自分だけで道を覚えるテストの成績が悪かったっていう結果が出てました。

しかも、何年か追跡したら、GPS をよく使う人のほうが、海馬依存の空間記憶の低下が速かった、っていう話もあって。

脳のスキャンをすると、GPS に従ってるときは、自分で地図を組み立ててるときに動くはずの領域があんまり働いてないらしいです。

日本でも、昔は紙の地図を見てルートを覚えてたタクシー運転手が、今はナビ頼りになってる、みたいな話をよく聞くし、

東京の地下鉄を何となく頭の中でつなげて把握してる人と、常に Google マップに従う人の差って、だんだん広がってそうな気がします。

3. オートパイロットとパイロットの腕の劣化

航空業界でもうだいぶ前から言われてるのが、「オートパイロットに頼りすぎると、パイロットの手動操縦の腕が落ちる」って話で。

アメリカの FAA(連邦航空局)が注意喚起してるレポートにも、自動化への過度な依存は、手動操作のスキルと自信の低下につながるって、わりとはっきり書かれてたはずです。

実際、トラブルで自動操縦が切れて、急に人間にコントロールが戻ってきたとき、うまく対処できなかった事故の例もいくつか出ている。

これって、今後の自動運転とか、医療の AI 診断とか、日本でも増えていくであろう自動化全部にそのまま重なる話で。

・AI が運転してるあいだ、人間の「危険予測」の回路はどれくらい眠ってるのか
・AI が診断してくれるあいだ、医者の「違和感を拾う感覚」はどれくらい保たれるのか

っていうのは、本当はかなり真剣に考えないといけないところだと思います。

鍛えてる回路だけが光って太くなっていく一方で、AI に丸投げした部分は静かにフェードアウトしていく感じ。
鍛えてる回路だけが光って太くなっていく一方で、AI に丸投げした部分は静かにフェードアウトしていく感じ。

「AI を切れ」とは言わない、でも「全部渡す」のは普通にリスク

ここまで書くと、「じゃあ AI 使わないほうがいいの?」って話になりがちなんですけど、さすがにそれは違うと思ってて。

正直なところ、AI をうまく使える人と、まったく使えない人の差は、これからどんどん広がっていくはずだし、日本の中でも、たとえば DMM とか楽天みたいなところは、もう AI 活用を前提に動いてる感じがある。

でも、進化とか脳の話を思い出すと、「便利だからといって、自分の回路を完全に捨てる」のは長期的にはかなり危うい、っていう感覚は消えないんですよね。

じゃあどうするのか、ざっくりいうと:

・AI に任せる領域と、自分で考える領域をちゃんと分ける
・AI が出した答えを「そのまま飲む」のではなく、「自分の頭で一回噛み砕いて再構成する」

この 2 つだけでも、だいぶ違うと思ってます。

たとえば:

・ナビ:ルートはナビに出してもらうけど、出発前に一度、ざっくり頭の中で地図を描いてみる(大きい道、川、駅を基準に)。

・検索:AI に要約させてもいいけど、元の一次情報(論文や公式サイト)も最低 1 回は自分の目で見る

・文章作成:下書きは AI に手伝わせても、最終の構成と結論は自分で決める

このへん、台湾の PTT や日本の Yahoo! 知恵袋みたいな掲示板を眺めてても、

・AI に任せて楽してるだけの人のアウトプット
・AI を道具として使いつつ、自分の頭でちゃんと咀嚼してる人のアウトプット

って、読み味がかなり違うんですよね。

自分の中で「守るスキル」を決めておく

全部の能力を自力でキープするのは、さすがに無理だと思います。

ただ、さっきの洞窟魚とかスティックルバックの話みたいに、「ここは削ったらまずい」という部分だけは、意識的に残しておいたほうがいい気がしてます。

たとえば、こんな感じで決め打ちする:

  • 判断力:最終的な「OK/NG」を決めるのは必ず自分にする(AI は材料集めと候補出しまで)。
  • 基礎計算:日常の簡単な計算は、できるだけ暗算か紙でやってみる(税率とか割り勘とか)。
  • 空間感覚:よく行くエリアだけは、地図なしで歩けるくらいまで覚える。
  • 母国語の文章力:大事なメールやプレゼンだけは、自分の言葉で一から書く練習を続ける。

全部を完璧にやる必要はなくて、「ここだけは AI に渡さない」っていう領域をいくつか死守するイメージ。

コストの話:

もちろん、その分時間はかかるし、AI に丸投げしたほうが早い場面も多いです。

でも、筋トレと同じで、「今日 30 分余計にかかった」が、数年後の「ちゃんと持ち上げられるかどうか」につながるなら、コスパとしてはそこまで悪くない気もするんですよね。

ざっくりコスト感をテーブルにすると:

AI 依存度とリスク感覚のざっくり比較

スタイル 短期の楽さ 長期のスキル維持 トラブル時の強さ
ほぼ全部 AI に丸投げ めっちゃ楽。とにかく早い。 コアスキルがどんどん錆びる感じがする。 AI がコケた瞬間に一緒に倒れる。
AI は確認・補助メイン ちょっと手間は増える。 「自力でやる筋肉」をそこそこ維持できる。 AI がなくても最低限は戦える。
ほぼ自力、AI はたまに 正直しんどい場面も多い。 スキルはかなり残るけど、効率は落ちがち。 環境変化には強いけど、今の競争では損もする。
「手を動かして考える」と「AI に聞きながら進める」を、同じ机の上にちゃんと並べておくイメージ。
「手を動かして考える」と「AI に聞きながら進める」を、同じ机の上にちゃんと並べておくイメージ。

正直なところ、自分はこう思ってる

個人的には、AI を使うことそのものよりも、「自分が何を手放しているのかを意識しなくなること」が一番怖いです。

洞窟魚も、スティックルバックも、「よし、目を捨てよう」「トゲをやめよう」なんて考えてないじゃないですか。

ただ環境に合わせて、じわじわ変わっていっただけ。

人間も同じで、

・毎日ナビを使う
・毎回 AI に翻訳させる
・毎回要約を AI に投げる

っていう生活を 5 年、10 年続けたときに、「どの能力がどれくらい削られたか」って、たぶん自分ではちゃんと自覚できないんですよね。

だからこそ、「あえて不便を残す」っていう選択を、ちょっとだけ意識的にやっておいたほうがいいのかもしれない。

たとえば、

・よく行く駅までは、ナビなしで歩いてみる日を作る
・簡単な資料は、AI 使わずに自分でゼロから組んでみる
・ニュースの要約は AI にさせつつ、「自分だったらどうまとめるか」を一回メモに書いてみる

みたいな、小さい抵抗。

AI がどれだけ優秀でも、「自分で持ち上げる筋肉」まで外注はできないんですよね。
AI がどれだけ優秀でも、「自分で持ち上げる筋肉」まで外注はできないんですよね。

全部完璧にやる必要はないし、気が向いたときだけでも十分だと思います。

でも、「AI 便利〜」って言いながら、自分の中のどのスキルをどれくらい削っているのかだけは、たまに立ち止まって見直してもいいのかな、という感じです。

ここまで読んでくれた人に、ちょっと聞いてみたいんですが、

今の自分の生活で、「ここはあえて AI に任せてない」って決めてる領域って、何かありますか?

もし「いや、気づいたら全部 AI に渡してたかも…」ってなったら、今日から一個だけでも、「ここは自分の筋トレ枠」にしてみると、数年後ちょっとだけ差がつくかもしれません。

Related to this topic:

Comments