まいにちこども新聞

AIの「制御不能」リスク 国連でルールづくりを訴え

世界せかいの 平和へいわについて 話はなしあう 国連こくれんの 安全保障理事会あんぜんほしょうりじかいに、アメリカでAIをつくる 会社かいしゃのトップたちが 招まねかれました。そして「AIが 人ひとのいうことを 聞きかず、コントロールできなくなるおそれがある」と 注意ちゅういをよびかけ、世界せかいの 国くにが 力ちからを 合あわせてルールをつくろうと 訴うったえました。

AIは「人工知能じんこうちのう」ともよばれ、コンピューターが 人間にんげんのように 考かんがえたり 判断はんだんしたりするしくみです。 文章ぶんしょうをつくったり、絵えをかいたり、質問しつもんに 答こたえたりと、いまではくらしのいろいろな 場面ばめんで 使つかわれています。

とても 便利べんりなAIですが、あまりにかしこくなると、人間にんげんが 思おもったとおりに 止とめたり 直なおしたりできなくなるおそれがあります。これが「制御不能せいぎょふのう」というリスクです。とくに 文章ぶんしょうや 絵えを 自分じぶんでつくり 出だす「生成せいせいAI」が 急きゅうに 進化しんかしたことで、心配しんぱいする 声こえが 高たかまっています。

この 議論ぎろんが 行おこなわれたのは「国連こくれん」の 安全保障理事会あんぜんほしょうりじかいです。国連こくれんは 世界せかいのたくさんの 国くにが 集あつまって 話はなしあう 場所ばしょで、なかでも 安全保障理事会あんぜんほしょうりじかいは 戦争せんそうや 平和へいわにかかわる 大切たいせつな 問題もんだいをあつかいます。そこでAIが 議題ぎだいになったこと 自体じたい、注目ちゅうもくされました。

制御不能せいぎょふのう

機械きかいなどが 人間にんげんのいうことを 聞きかず、止とめたり 直なおしたりできなくなること。

国際基準こくさいきじゅん

世界せかいの 国くにが 共通きょうつうで 守まもるために 決きめるルールのこと。

生成せいせいAI

文章ぶんしょうや 絵えなどを 自分じぶんで つくり 出だすことができるAIのこと。

これから 各国かっこくは、AIを 安全あんぜんに 開発かいはつし 使つかうための 国際基準こくさいきじゅん、つまり 世界せかい共通きょうつうのルールづくりを 話はなしあっていくとみられます。便利べんりなAIとうまくつきあうために、世界せかいが 協力きょうりょくできるかが 問とわれています。