キッズポータルby ソフカなぜ？図鑑 暮らし・社会・未来
AIが正しい答えを言うなら、人は考えなくてよくなる？
AIは、画像分類、文章生成、計算など特定の課題で人より速く大量に処理できます。一方、人間のように体験して意味を理解しているとは限らず、学習データの偏りや入力の違いで、自信ありげに間違えることがあります。
「どちらが上」ではなく、何の課題で、誰が責任を持ち、どう確かめるかを見ます。
読む時間・対象・資料
この記事AIが正しい答えを言うなら、人は考えなくてよくなる？
まず、ひとつわかろう
いちばん知りたいところから。
AIは、画像分類、文章生成、計算など特定の課題で人より速く大量に処理できます。
- 0101
文章、画像、音などのデータを使います。
- 0202
モデルの内部の多数の数値を、課題の予測が合いやすくなる方向へ更新します。
- 0303
見たことのない質問でも、学んだパターンから分類や次の言葉を予測します。
事実として確認できた文を青
はじめにAIに聞いたら、存在しない本を紹介された。
生成AIは、データから学んだ言葉のつながりを使い、続きとして自然そうな文章を作ります。検索結果の棚から必ず事実を取り出す機械ではありません。もっともらしさと正しさは別なので、出典、日付、固有名詞、数字を元資料で確認します。
しくみ何が起きているのか、順番にたどろう。
- たくさんの例を集める
文章、画像、音などのデータを使います。何を含め、どう整えるかで学ぶ世界が変わります。
- 間違いが減るよう調整する
モデルの内部の多数の数値を、課題の予測が合いやすくなる方向へ更新します。
- 新しい入力へ予測する
見たことのない質問でも、学んだパターンから分類や次の言葉を予測します。
- 人が用途と確認方法を決める
どこで使うか、間違えた時の影響、説明や異議申立てなどを人と組織が設計します。
もう少しくわしくもう少し先まで知りたい人へ。
AIの「知っている」は人と同じ？
言葉の関係を高度に扱えても、空腹、痛み、教室の空気を人のように体験しているとは限りません。能力ごとに比べます。
たとえばチェス、雑談、救急判断を同じ「頭のよさ」でまとめない。
偏りはデータだけでなく目的にも入る
過去の偏りを含むデータ、正解ラベル、最適化する目標、使う現場の違いで不公平が起こります。
たとえば誰の例が少ないか、間違いで誰が困るかを聞く。
AIを使うと考えなくなるかは使い方次第
答えを写すだけなら考える機会が減りますが、反対意見を出す、文章を比較する、質問を改善する道具にもできます。
たとえば先に自分の予想を書き、AIの答えと違いを三つ探す。
よくある勘違いまちがえやすいところを、ほどいておこう。
- AIはインターネットを全部覚えている？
- 学習範囲や時期は限定され、非公開情報へ勝手にアクセスできるとは限りません。検索機能付きかも分けます。
- 丁寧に答えるAIは正直？
- 話し方の丁寧さと事実の正確さは別です。
- AIの間違いは使う人の責任だけ？
- 開発者、提供者、導入組織、利用者など役割に応じた責任があります。子どもだけへ背負わせません。
やってみる 3分AIの答えを三色で点検
個人情報を入れず、確認できる身近な質問を使います。
- 事実として確認できた文を青
- 意見や提案を緑
- 出典不明・確認できない文を赤にする
- 公式資料を一つ開いて照合する
名前、学校、住所、顔写真、健康や家庭の秘密を入力しません。年齢制限と学校・家庭のルールを守ります。 AIへ個人情報、健康情報、決済情報、他人の写真を安易に入力しません。医療、法律、お金、安全に関わる判断をAIだけで決めず、信頼できる大人と公的・専門的な情報を確認します。脅しや性的な要求が出た場合は画面を閉じて大人へ伝えます。
親子で話す家族にも聞いてみたくなったら。
-
AIへ任せたい仕事は？
子ども速さが必要、繰り返し、危険な仕事から考える。
おとな間違えた時の影響と人の確認を加える。
-
任せたくない決定は？
子ども友だちを選ぶ、罰を決めるなど理由を話す。
おとな権利、説明、異議申立てへつなぐ。
-
宿題でどう使う？
子ども予想→質問→比較→自分の言葉の順にする。
おとな学校ルール、出典、生成物の表示を確認する。
よくある質問もう少し気になったら。
AIはうそをついている？
人のような意図でうそをつくとは限らず、もっともらしい予測が事実と違う場合があります。結果として誤情報になるため確認は必要です。
AIが作った絵の作者は誰？
国やサービス、利用条件で扱いが異なり、学習データや権利の議論も続いています。利用規約と公開方法を確認します。
AIに「ありがとう」は必要？
AIの気持ちのために必須ではありませんが、丁寧な言葉を練習する、自分の依頼を整理する意味はあります。
出典この記事を書くために読んだ資料。
- Changing landscape of skills in the age of AI国際労働機関（ILO） AI時代は仕事名だけでなく、認知、対人、デジタル、適応など仕事の中で使う力が変わるという整理を確認しました。資料 ↗
資料の読み方について
公的機関・研究機関・専門団体の資料を優先しました。一般向けの学習記事で、専門家の監修は受けていません。体調・学習・家庭・地域に合わせた個別の診断や指示ではありません。
おうちの方へ
いっしょに読むためのヒント。
間違えた時の影響と人の確認を加える。 権利、説明、異議申立てへつなぐ。
AIへ任せたい仕事は？
次に読む。
- 同じなぜ？図鑑で深める 今ある仕事はAIに取られ、新しい仕事へ全部入れ替わる？なぜ？図鑑 · 12分
「AI・未来」を、同じなぜ？図鑑の別の問いから深めます。
- 同じなぜ？図鑑で深める 声や写真は、空をそのまま飛んで外国まで行くの？なぜ？図鑑 · 11分
デジタル化、電波、基地局、光ファイバー、サーバーまで、通信の旅と安全を説明します。
- となりの図鑑へ · しごと図鑑 プログラマーは、どんな仕事？しごと図鑑 · 8分
「AI・未来」を、しごと図鑑の視点から見直します。