ゴッホとピカソの表現を学び、どちらの画家も描かなかった絵を生み出すAI。大量の論文を読み、新たな仮説を提案するAI。少し前には空想のようだった技術が身近になった。
ところが、AIの可能性について話しているうちに、話題は芸術から写真の真偽、ハッキング、そして電力インフラへと移っていった。「AIには何が作れるのか」よりも、「AIに現実世界をどこまで動かさせてよいのか」が、ますます重要になってきたからだ。
ゴッホとピカソを組み合わせるAI――創造の意味が変わる
生成AIは大量のデータから色彩、構図、形、言葉の関係などを学び、指示に応じた新しい画像や文章を生成する。単純な切り貼りと同じではない一方、既存作品への類似や著作権などは別に考える必要がある。
科学の世界でも、AIが複数の論文や査読前プレプリントを整理し、研究間の矛盾や見落とされた組み合わせを提示することができる。ただし、「論文らしい文章」を作ることと「科学的な発見」を証明することは別。引用元の確認、実験、追試、再現性の検証が欠かせない。
作る速度が上がれば、何に価値があるかを判断する人間の役割も変わっていく。
「映っているから本当」は、もう十分な証拠にならない
昔の写真にも演出や加工はあった。しかし、写真や映像は現実の出来事を確認する強い手がかりとして扱われてきた。
いまはAIや編集技術により、道路の信号の色、看板、人物、会話などを自然に見える形で改変できる。ドライブレコーダーの映像でさえ見た目だけを根拠に「原本だ」と決めつけることは危険だ。
原本の保全、撮影元の確認、電子署名、改変履歴、別のカメラや第三者の記録。映像自体のもっともらしさよりも、証拠がどこから来たかという「来歴」が重要になる。
ドラえもんを頭のいい人に渡したら？
ドラえもんの道具は、使い手の知識、目的、倫理観によって成果が大きく変わる。AIにも似た性質がある。
ただし、いまのAIエージェントは質問に答えるだけではなく、情報収集、計画、コードの作成や確認作業を道具を使って進めることもある。道具の使い方を考えるだけでなく、道具に判断と実行の一部まで任せる。ここが現代の大きな変化だ。
ハッキングは「複数人のチーム」なしでも拡大する？
従来のサイバー攻撃には専門知識と多くの手作業が必要だった。AIはその一部を自動化・並列化し、ひとりの攻撃者が以前より多くの工程を進める可能性を高めている。
Anthropicは2026年6月、2025年3月から2026年3月にサイバー関連の不正利用として停止した832アカウントに関する分析を発表した。ただし、832という数字は犯人数でも、攻撃成功件数でもない。
同時多発的な攻撃を見ても、犯人が複数とは限らない。一人が複数の案件を進める場合も、独立した単独犯が多数動く場合もある。攻撃する側の手数が増える一方、防御側もAIによる監視・検知・修復を進められる。
参考：Anthropic「Mapping AI-enabled cyber threats」（2026年6月）
前澤友作さんの「ウチカラ」と仮想発電所
前澤友作さんが率いるカブ＆ピースは、家庭の太陽光パネル、蓄電池、EV（電気自動車）などをネットワークで束ねる「みんなで発電所」構想を2025年12月に公表した。こうした仕組みをVPP（Virtual Power Plant、仮想発電所）という。2026年には「ウチカラ」の名称で参加募集が進められている。
離れた家庭の設備を協調させれば、余った電力の有効利用、電力の需給調整、災害時の備えなどに役立つ可能性がある。一方で、機器と通信が多数つながることにより、ソフトウェアの安全性が電力インフラにも関わってくる。
なお、公表された「100万世帯なら最大約5GW・蓄電約20GWh」という規模は一定条件下の理論的試算であり、現在の稼働容量や遠隔制御可能容量を示す数字ではない。
参考：カブ＆ピース公式・構想発表、カブアンド公式・前澤社長の記事一覧
「危険ならすぐ停止」が電力網では逆効果になることも
ここが最も大切な論点だ。パソコンの異常時には電源を切る判断が有効なことも多い。しかし、飛行中の航空機が異常を検知したからといって、すべてのエンジンを何も考えず停止するわけにはいかない。
電力も同様だ。発電量と消費量は刻々と釣り合う必要があり、バランスが崩れると周波数が乱れる。保護装置が動作し、設備が連鎖的に停止すれば、大規模停電につながる場合がある。
そこで重要になるのが、一定範囲の電圧・周波数変動なら接続を維持する「ライドスルー」という考え方だ。米国の規制当局FERCは2025年、太陽光や風力などのインバーター型電源についてライドスルー要件を含む信頼性基準を承認した。
「何でも停止する」でも「何があっても継続する」でもない。機器単体の安全性と、電力系統全体の安定性を両立する必要がある。
参考：資源エネルギー庁「電力需給バランスとは」、FERC・インバーター型電源の信頼性基準（2025年）
AIに触らせてはいけないスイッチをどう作るか
米国エネルギー省（DOE）は、分散型電源が大規模につながった場合のサイバーリスクを研究課題として挙げている。しかし、「ウチカラに確認済みの脆弱性がある」「ウチカラを悪用すれば広域停電を起こせる」と確認されたわけではない。影響は接続された設備、実際の制御権限、保護機構、系統状況によって異なる。
だからこそ、今後のVPPやAI制御には次のような設計が重要になる。
- 現地機器が安全範囲を独立に確認する：中央からの命令を無条件で実行しない。
- 権限を分離する：ひとつのサーバーの侵害で全設備を無制限に操作できないようにする。
- 通信障害時にも計画的に動く：一斉停止だけに頼らず、現地での継続、段階的な縮退、必要時の切離しを使い分ける。
- AIと最終安全制御を分ける：AIは予測・計画を担えても、独立した制御層で指令を検証する。
- 群れとしての動作を検証する：一台では安全でも、多数の設備が同じ動きをしたときの影響を考える。
参考：米国エネルギー省・分散型電源のサイバーセキュリティ報告、DOE・配電と分散型電源のセキュリティ基準
「何でも作れるAI」の先にある、社会の安全設計
絵画を作るAI、論文を読むAI、本物らしい映像を作るAI、複雑な作業を並列処理するAI。そして、現実の電力設備に関わるAI。別々の話に見えて、実は一本の線でつながっている。
AIがデジタル世界を超えて物理的な設備を動かすほど、賢さと同じくらい権限と安全上の限界が重要になる。
ドラえもんを頭のいい人に渡したら、何ができるだろう。そんな空想が現実に近づいたからこそ、問いを増やしたい。
「ドラえもんに何をさせたいか」だけでなく、「ドラえもんに触らせてはいけないスイッチをどう設計するか」。
AIが間違えたり悪用されたりしても社会全体が巻き込まれない仕組みを作ること。それこそが、創造の可能性を安全に広げるための条件なのだろう。
※2026年10月時点の公表情報に基づく技術・社会的考察です。特定企業の設備・システムに侵害や脆弱性があると主張する記事ではありません。
アイキャッチ写真：DM David / Unsplash（Unsplash License）
