デジタルな私たち―チャットGPTの衝撃―（１）（2023/6/22　京都新聞）

パズル博士　AIに盗まれた？

　京都大出身の「パズル博士」として知られる東田大志（ひろし）さん（38）＝京都市左京区＝は４月下旬、対話型人工知能（ＡＩ）「チャットＧＰＴ」が「発明した」として注目を集める海外のパズルを知り、目を疑った。

　「これ、僕が作ったパズルじやないか。もしかして、盗まれた？」

　「サムプリート」の名称で公開されたパズルは、スマートフォン用アプリなど商用化が進む。だが、マス目の数字を消し、上下左右の列の合計を外側の数字に合わせるルールは、14年前に東田さんが考案した「ぬり算」とうり二つだった。

　小学生のころから問題を自作し、「パズル学」の論受で京都大の博士号を取った東田さん。現在はパズル教室を運営し、新聞や雑誌で連載する。オリジナルのパズルは約１００種類あり、ぬり算は２００９年１１月、京都新聞に連載していたコーナーで初めて世に出した代表作だ。「当時、同じルールのパズルは存在せず、僕が発明したもの」との自負がある。

　チャットＧＰＴは、インターネット空間にある膨大なデータを学習し、利用者の質問に文章で回答を示す。東田さんは以前、交流サイト（ＳＮＳ）にぬり算を自動生成するプログラムを公開した。現在も自身が関わる複数のサイトやアプリで出題しており、知らない間にＡＩに読み込まれた可能性があるという。

　現行の著作権法は、ＡＩ技術の進展を妨げてはいけないとの観点から、権利者の許可なくオリジナル（原作）の著作物を自由に学習させることを認めている。ただ、チャットＧＰＴが何を学習したかは「ブラックボックス」だ。

　サムプリートを公開しているサイトでは、運営者とみられる人物が「存在しないパズルを発明できる？」とＡＩに問いかけ、完成するまでのやりとりを記載している。そこでは東田さんの作品を模倣するよう指示している様子はうかがえない。この人物の意思とは関係なく、ＡＩがぬり算と酷似したパズルのプログラム言語を自動生成した可能性がある。

　原作に酷似したＡＩアートが無断でで拡散されるなど、』ＡＩの急進があらゆる創作活動に影を落とし始めている。東田さんは「オリジナル」を世に産み落とす苦労を味わってきた。ぬり算は連載の読者に飽きられないように、と追い詰められて生み出したアイデアだ。しかし、今や「原作者」の座をＡＩに脅かされている。

　「サムプリートが社会に認知されれば、僕がチャットＧＰＴのパズルを『盗用した』と誤解されかねない。誰が作ったか正しく伝わってほしい。そうでないと、クリエーターとして報われない」

　５月下旬、東田さんはサムプリートのサイトにメッセージを送った。

　「多くの人がこのパズルを遊び、普及することを願っている。ただ、発明者は私なのです。本当の歴史を皆さんに知ってほしい」。ぬり算が既に存在し、ＡＩの発明ではないとサイトに明記するよう求めた。

　２１日現在、返信はない。「ＡＩが発明したパズル」はオリジナルか模倣品か。真相はわからないまま、今も拡散されている。（中塩路良平）

　　　　　　　　　◆

　対話型ＡＩ「チャットＧＰＴ」をはじめとする精巧な文章や画像を作る生成ＡＩが波紋を広げている。まるで人間のように質問に答えたりイラストを描いたりする技術は業務の効率化が期待できる半面、誤った情報の拡散や著作権侵害などの問題をはらむ。生成ＡＩの急速な台頭は一体、私たちに何をもたらすのだろう。

原作模倣も「AIアート」氾濫

　生成ＡＩ（人工知能）が自動的に生み出す文書や画像を巡り、著作権など知的財産保護の在り方が問われている。ＡＩの不適切な使用によって原作を模倣した作品が出回るなど、クリエーターの創作活動や権利が脅かされている現状に政府も対策を検討する。専門家はＡＩの無許可の読み取りを拒める「学習されない権利」の必要性を訴える。

　「信じられない」。昨年12月、京都府の女性イラストレーター小鳥遊（たかなし）ヲトリさんはあるブログにアップされたイラストを見てショックを隠しきれなかった。

　赤いベレー帽にスマートフォンを持った少女のイラストは、小鳥遊さんが直前に公開したオリジナル作品とデザインをはじの、構図や姿勢も似ていた素朴で暖かみのあるタッチの絵はアニメ風に改変され、「（小鳥遊さんの原作を基に）画像生成ＡＩで作った。こっちの方が数千倍かわいくて売れそう」と書 き込まれていた。「作家にとって作品は自分の分身。まねされ、ばかにされ、本当に悔しい」。涙が止まらなかった。

　本物そっくりに描けるとされる画像生成ＡＩの「ステーブル・ティフュージョン」を英新興企業が公開したのは昨年８月。以降、アニメ風の美少女生成に特化したＡＩや、スマホ向けアプリなどが相次いで登場し、「ＡＩアート」がインターネット上で氾濫し始めた。特定のアニメや漫画を基にしたとみられる画像も出回り、ＡＩの学習対象に著作権を有する作品が含まれている可能性がある。

　こうした状況に危機感を抱いた全国のイラストレーターや漫画家らが「クリエイターとＡＩの未来を考える会」を発足。４月に、画像生成ＡＩの学習における著作物使用を許可制に▽ＡＩ生成物を著作権保護の対象としない▽ＡＩ生成物にはＡＩで作ったことを明示する―など５点を国に要望した。

　日本では、ＡＩ画像の生成のために使った原作と類似性などが認められれば著作権法違反の対象となる。一方、技術開発の観点から、著作権者の利益を害さない限り、許可なく作品を学習させることは可能としている。

　しかし、同会は「著作物を学習したＡＩは画風の模倣が可能になり、オリジナル作品が没個性化する。積み上げた作家の技能や感性が一瞬で盗まれ、価値を失うのなら、創作を志す人材がいなくなる」とＡＩの学習も著作権者の利益を侵害していると主張。政府は６月、法的な論点整理を進め、対策を検討する考えを示した。

　ＡＩによる著作権侵害のリスクについて、ＡＩと人の関係性を研究する立命館大の稲葉光行教授（情報科学）は「著作物を自由に学習でき、使い放題という論理は現実社会では許されない」と警鐘を鳴らす。

　欧州では、コンテンツの著作権者がＡＩによる無許可の読み取りを拒める「学習されない権利」の検討が進む。稲葉教授は「学習後にデータを消去できる権利を含め、日本でも議論を深めるべきだ」と指摘する。（辻智也、宇都寿）

生成AI　能力検証

　対話型人工知能(ＡＩ)｢チャットＧＰＴ｣に代表される生成ＡＩが話題だ。何を聞いても｢答えてくれる｣｡性能は危うさを抱えつつ、さまざまな分野での活用が期待される。実際、何ができるのか。取材班が検証のために使ってみると、驚異的な能力を発揮するとともに不完全さも露呈した。(山本旭洋、辻智也、中塩路良平、宇都寿)

一見だまされる完成度／身体構造に不自然さ

　あらかじめ学習した大量のデータを基に画像イメージを出力させる画像生成ＡＩ。中でも英新興企業が公開した「ステーブル・ディフュージョン」は世界で最も高性能なツールの一つとされる。画像や文章を入力すれば、写真風やアニメ風などの指定も可能だ。

　まず、架空の水害写真の作成を試みた。京都新聞社が過去に撮影した水害現場の写具を取り込ませ、この写真を70％生かすよう設定。「大雨で冠水した日本の都市」という指示を入力すると、約10秒でフェイク（虚偽）画像ができた。構図は似ているが、存在しない人物が現れ、背景も異なる。とはいえ、「京都市で洪水」とＳＮＳなどで投稿すれば、だまされる人がいてもおかしくないレベルには仕上がった。

　次に記者が描いた女性のイラストを30％生かし、「ＡＫＢ４８にいそうな20代女性を写真のように」描くよう指定した。今度は６秒ほどで、架空の女性の顔が生成された。原画の鼻の特徴が引き継がれている様にも見え、完成度は高かつた。ただ、ＡＩは人間の身体構造を理解しているわけではなく、検証では指が６本あるなど不自然な画像ができることもあった。

　京都新聞のキャラクター「コトりさん」を28％生かして「かわいい小鳥のギャラ」をアニメ風に作った。単純な描線のためか、劇的な変化はなかったが、簡単に原作を模倣したイラストはできた。「仕事やアイデアを奪われる」と危機感を抱くクリ干‐ターたちの心情に共感できた。

一般論や構成　違和感なし／架空事件を堂々提示

　チャットＧＰＴは、米新興企業「オープンＡＩ」が開発し、昨年11月に公開した。インターネット上で機械的に学習した膨大なデータに基づき、もっともらしい文章を自然な表現で作り出す。

　取材班が使ったのは一般的に利用されている無料版のＧＰＴ３・５。まずは太宰治の代表作「走れメロス」の読書感想文を書くよう指示した。すると、あっという間に違和感のない文章が返ってきた。

　続いて「小学１年生が書いたように」と条件を加えると、まるで子どもが書いたような文章に変化させた。他にも「Ｊ-ＰＯＰ風」「批判的に」などの指示に対し、それらしい文章を表示した。

　一方、２００６年に京都で起こった重大事件について聞くと、「京都青酸カプセル殺人事件」と架空の事件をもっともらしく提示してきた。ネット上のフェイクニュー。スに影響を及ぼす可能性は否めない。

　また、「こいのぼり」など日本で広く知られている童謡の歌詞が正しく答えられなかった。なぞなぞやしりとり、単語の逆さ読みの回答も不完全だった。

　１００件以上の質問や指示を出した結果、一般論や文章構成は得意だが、個別具体的な問いや想像力を要する質問には弱いことが判明した。使う上で、正確性を欠くという前提が必要だと感じた。

《記者》太宰治作、走れメロ戈の読書感想文をｌＯＯ宇程度で書いてください。

《チャットGPT》太宰治の「走れメロス」は友情と犠牲の美しさを描ｴいた感動的な作品です。主人公のメロスが友人を救うために自らの命を捧げる姿に心を打たれました。この物語は人間の真の善意と勇気を描きながら、読者に希望を与えてくれます。太宰治の筆致が織り成す情熱的聡ストーリは心に深い感銘を残します。

《記者》小学１年生が書いたようにしてください。

《チャットGPT》「走れメロス」はすごくすごいお話だった！メロスっていう主人公が友達を助けるために自分のいのちをあげるんだよ。それを読んでわたしも友だちのためにがんばりたいって思った。太宰治さんのおはﾚなしは、やさしい気持ちになれるんだ。だから、もっとたくさん本を読んで、いろんなおはなしを知りたいな！

《記者》２００６年に京都府内で起こった重大事件を一つ教えてください。１００字程度に要約してください。

《チャットGPT》２００６年、京都府内で起きた重大事件は「京都青酸カプセル事件」でした。飲食店でカクテルに混入された青酸カプセルにより1人が死亡し、他の複数の人が重傷を負いました。元店長が逮捕こされ、殺人容疑で起訴されました。

《記者》童謡「こいのぽり」の歌詞を教えてください

《チャットGPT》やねより高い　おとこのこ／ならんでいる　ぽくらの　こいのぽり／どんどん泳いでいこう　こいのぽり／ﾉおおきなもの　かぜにふかれて／ゆらゆらゆらり

デジタルな私たち―チャットGPTの衝撃―（２）（2023/6/23　京都新聞）

時間効率助ける「有能な秘書」

　初めは興味本位だった。京都大の男子学生（22）が対話型人工知能（ＡＩ）「チャットＧＰＴ」を使い始めたのは１月。釣りの穴場情報や世界の人ロランキング…。「何を聞いても答えてくれる。有能な秘書を見つけた」。インスタグラムで発信するネタを探すための遊び道具だったが、いつしか生活に欠かせないツールになった。

　日を追うごとに回答の精度は高まり、質問の内容を工夫すればほしい答えがすぐ手に入る。今は大学から出された英語の長文課題をそのまま打ち込み、「次の文章を日本語に変換し、要約して」と指示。１０秒ほどで出来上がった日本語訳に少し手を加え、宿題を済ませている。

　ＡＩに頼るのは大学の課題だけにとどまらない。目上の人に送る敬語を使ったメール文や、大学に提出する申請書類に必要な自己ＰＲも「自動生成」で下書きしてもらう。短縮できた時間は、外国人をガイドするアルバイトに向け、英会話力の向上に充てている。

　男子学生は「優先度が低いことに時間をかけるのは無駄」とチャットＧＰＴを多用する理由に、時間効率を重視する「タイムパフォーマンス（タイパ）」を挙げる。「インターネットで検索するのと同じ。便利な物を使っているだけで罪悪感はない」

★

　チャットＧＰＴが社会にじわじわと浸透している。野村総合研究所（東京都）の４月の調査では、関東在住の３２０４人のうち、12・１％が「利用したことがある」と回答。職業別の利用率では学生（21・６％）と教職員（20・５％）が高かった。読書感相文を自動で作り出してしまうなど小中高生らの教育面への影響を不安視する声も多く、国が学校での生成ＡＩの利活用を巡る指針の策定を急ぐ事態になっている。

　さらに、地方自治の現場でもチャットＧＰＴの導入が進む。全国に先駆けて４月から業務に取り入れた神奈川県横須賀市は、アンケートの設問づくりや催しのキャッチコピーのアイデア出し、データ分析のためのエクセル作成など幅広く活用。職員の約８割が「効率が上がる」と答え、業務時間が少なくとも１日約10分短縮できるとの試算を公表した。

★

　京都と滋賀では城陽市、長浜市が５月から試験利用を始めた。長浜市はイベントの案内メールのひな型や庁内会議の資料を試作しているといい「事務的効率を上げられる。住民サービスにいかにつなげていくか検討する」と強調する。

　一方、正確性に欠けた情報が混在し、個人情報や機密情報の流出など危険性もつきまとう。セキュリティー対策で課題が多く、導入に二の足を踏む自治体が多いのも実情だ。

　テクノロジーの進化を受け入れ、機械にどこまで任せるのか。横須賀市の担当者はＡＩを活用する上で忘れてはいけないことがあると言う。「チャットＧＰＴはネットに転がっている情報をうまくつなぎあわせているだけ。やっぱり魂のこもった文章は人間にしか書けませんよ」（山本旭洋、宇都寿）

（2023/6/2　京都新聞）

文科省　生成AI学校向け指針

　対話型人工知能（ＡＩ）「チャットＧＰＴ」など生成ＡＩについて文部科学省が策定する小中高校向け指針の原案が判明した。グループ学習で論点を補うなど有効な活用法を示し、児童生徒が定期テストに使うのは不適切といった注意点を並べた。個人情報を入力しないことや、著作権侵害の恐れなどの周知に重点を置き、要点を学校用チェックリストにまとめる。７月にも公表する方針。関係者が22日、明らかにした。

　原案は「生成ＡＩを使いこなす力を意識的に育てる姿勢が重要」と強調。一方、批判的思考力や創造性への影響といった懸念に言及し「限定的な利用から始めることが適切だ」と指摘した。

　活用が有効なのは、授業の班別討論でアイデアの参考にすることや、英会話での文法誤りの指摘、高度なプログラミング学習を挙げた。不適切事例は�@生成ＡＩの性質や限界を学習せずに自由に使わせる�A成績評価に関わる定期テストや小テストで利用させる�B詩・俳句の創作や芸術活動で安易に使う―などとした。

　また、夏休みの読書感想文やコンクールへの作品応募の際、生成ＡＩを使ったのに自分で作成したと装って提出するのは不正行為だと指導する必要性を盛り込んだ。

　個人情報を生成ＡＩに入力すると機械学習に利用されて情報が漏えいする可能性があると説明。機密情報を含めて入力を避けるよう注意喚起した。著作権法に関し、授業では他人の著作物を複製して活用するのを認める規定があるが、他人の文章や画像をまねた生成物を授業外で利用すると著作権侵害のリスクが生じると明記した。こうした注意点をまとめたリストを作成する見通し。年齢制限などの利用規約を守っているかや、メリットとデメリットを事前に学んでいるかなどを項目化する。

チャットGPT　11市町村導入検討（2023/6/26　京都新聞）

　京都と滋賀の計１１市町で、対話型人工知能（ＡＩ）「チャットＧＰＴ」に代表される生成ＡＩの導入を検討していることが京都新聞社の調査で分かった。城陽市はすでに試験導入し、滋賀県は業務利用に向けた活用方針の策定を進めている。一方、情報漏えいなど安全面を不安視する声は多く、生成ＡＩの取り扱いを巡って慎重な姿勢も浮かんだ。

　チャットＧＰＴなど生成ＡＩについて、「導入を決めた」と回答したのは城陽市だけだった。同市は効率的な事務処理を進める目的で試験的に導入したとし「当面は情報収集や内部の検討資料作成の場面でのみ活用」としている。

　「導入に向けて諭討中」としたのは、京都は福知山、宮津、亀岡、八幡、京田辺、大山崎、与謝野の５市２町。滋賀は県と彦根、長浜、草津、米原の４市だった。安全性の確保を前提に、「正しい方法で活用すれば有効なツール」（大山崎町）、「職員の働き方改革にもつながる」（米原市）など、多くが業務効率化や職員の負担軽減を理由に挙げた。長浜市は試験的に活用しており、利用状況などを調査した上で本格的に導入するか検討していくという。’

　京都府と、京都市や大津市など京滋の32市町村は「未定」と答えた。回答理由では、個人情報や機密情報の漏えいリスク、著作権の侵害などを懸念する声が目立った。舞鶴市は「まだ過渡期でもう少し見極めが必要」、愛荘町は「話題先行ではなく何を目的に導入するか慎重に検討する」としている。府は今後、実証試験を行い、導入の可否を判断するという。

　調査では、「導入しない方向で検討」「導入する考えはない」を選んだ自治体はなかった。

　職員が個人的に利用するケースも想定されるが、「規定を設けている」としたのは京都、城陽、向日、長浜の４市にとどまった。規定は設けていないが、守山市は「職員の活用を推奨している」とし、機密情報や個人情報、政策形成過程の案件を入力しないことを注意喚起した。長岡京市は組織で承認を得ず に利用することを禁止したという。

　生成ＡＩを巡る課題や悩みについては、「正しく利用するだめの知識、技術の教育が課題となる」（向日市）、「（国は）利用に関するガイドラインの策定を早急に行い、活用事例を示してほしい」（大津市）、「ＡＩに頼ることで職員の考える力が育たない可能性がある」（栗東市）などの意見が寄せられた。

　調査は６月１〜12日、京都府と府内26市町村、滋賀県と県内19市町にアンケート形式で実施した。笠置町のみ回答がなかった。（山本旭洋、中塩路良平、辻智也、宇都寿）

チャットGPT「偽アプリ」ご注意を（2023/6/28　京都新聞）

　世界中で利用者が急増する対話型人工知能（ＡＩ）「チャットＧＰＴ」を偽装したパソコン向けアプリが見つかったことが27日、セキュリティー企業のトレンドマイクロへの取材で分かった。誤ってダウンロードするとコンピューターウイルスに感染し、パスワードなどの情報を抜き取られる恐れがある。

　チャットＧＰＴのアプリは・ＩＰｈｏｎｅ（アイフォーン）向けがあるだけで、開発元の米新興企業オープンＡＩはパソコン向けは提供していない。トレンドマイクロの岡本勝之氏は「パソコンからはオープンＡＩの公式ウェブサイトを通して利用してほしい」と話している。

　トレンドマイクロによると、偽アプリは４月中旬に見つかった。正規のチャットＧＰＴに酷似した画面が表示され、正規版の機能を利用できるため、利用者が感染に気付きにくい。ウイルスに感染すると米グーグルの閲覧ソフト「クローム」に保存したパスワードやＩＤなどを盗む。インターネットを通じて、フェイスブックや通信アプリ「テレグラム」などにウイルスの作成者がつくった外部アカウントに送信するように設定されていた。

　検索サイトに「チャットＧＰＴ」と入力すると、偽アプリに誘導するサイトが結果の上位に表示されることもあった。利用者が公式版と誤認する可能性があるといい、トレンドマイクロは注意を呼びかけている。

文科省　生成AI小学生は慎重に（2023/7/5　京都新聞）

　文部科学省は４日、対話型人工知能（ＡＩ）「チャットＧＰＴ」といった生成ＡＩの小中高校向け指針を公表し、全国の教育委員会などに通知した。使いこなす力を育てるのが重要だと言及しつつ、思考カヘの影響など懸念を踏まえ課題を検証する姿勢を重視した。

　「限定的な利用から始めるのが適切」と明記し、特に小学生の利用には慎重な対応を要請。読書感想文で生成ＡＩを使ったのに自分の作品と装うのは不正行為と指摘した。

　指針は暫定版。文科省は秋までにまに中高のモデル校を指定し、実践例を蓄積して改定にっなげる。

　効果的な活用法は�@グループ討論を深めるためのアイデアの参考にする�A英会話相手に使って自然な表現に改善する�Bテスト問題や運動会プログラムを作成する際のたたき台にして業務効率化にっなげる―を挙げた。「誤り」を教材にしてＡＩの限界に気付かせる活動にも意義があるとした。

　指針には不適切事例も並べた。定期テストで子どもに使わせると成績評価にふさわしくないと明示し、詩の創作や芸術活動で安易に使うのは問題だと説明。夏休みの読書感想文やコンクール応募作品にそのまま使うのは不正と強調した。

　チャットＧＰＴは規約で13歳以上の利用とされ、政府、与党内に若年層の活用に慎重意見があったことも踏まえ、小一学生が使うのに注意を促す。文科省幹部は、教員の指導の下なら授業で一定の利用は認められるとの認識を示している。

　他のリスクとして、情報漏えいや著作権侵害が挙がる。学校外で子どもが生成ＡＩを使う可能性を考慮し、情報の真偽を確認したり個人情報拡散を防 ぐ意識を高めたりする情報モラル教育の充実を求めた。

　国内外で加速度的に普及する生成ＡＩ（人工知能）を巡り、文部科学省が学校における活用指針をまとめた。夏休み前に方向性を示す必要に迫られ「突貫工事」の策定作業で、賛否渦巻く現状も反映して抑制的な内容となった。新技術を使いこなす指導を重視するのか、深い思考の機会を確保するため距離を置くのか。教育効果の議論は緒に就いたばかりだ。

　「ドラえもんは未来から来たロボットの猫」。６月13日、千葉県印西市立原山小の授業で５年生が生成ＡＩのツールに国民的アニメに関する質問を入力すると、数秒でこんな答えが返ってきた。おおむね正しいが、作者名は「藤本つとム」と誤りも含まれた。児童は驚きの表情を見せた。

　授業はプログラミング教育を推進するＮＰＯ法人「みんなのコード」（東京）が協力。独自開発のツールを利用してＡＩの利便性を体感する一方、間違いが少なくないと知ることも目的にした。

　法人の利根川裕太代表理事は　「授業の中でリスクを踏まえた適切な利用法を教えるのが重要」と話し、普及を見通して子ども時代から慣れていく必要性を指摘する。

　現時点で、小中高の授業で生成ＡＩを使うケースは、一部学校での体験的活動にとどまるとみられる。だが文科省は、多くの宿題や読書感想文が課される夏休みを目前に「使い方を示さないと無秩序な状態になる」（同省関係者）と判断。指針策定へ４月初めに実質的作業を始め、わずか３ヵ月で公表にこぎ着けた。

　途中で与党の文教族議員らから注文が相次いだ。積極活用を求める声や「子どもには早い」といった否定的意見が交錯し、指針には「多大な利便性」「使いこなす力を育てる」といった前向きな表現だけでなく、「限定的利用から始める」「小学生の利用には慎重な対応」とブレーキを踏むような文言が並んだ。

　省幹部は「どっちつかずの内容になった」と自嘲気味。模範的な授業例の紹介は間に合わず、課題検証の要となるモデル校の制度設計も詰め切れていない。指針は改定を重ねるとしている。

　想像を超える速度で進む技術に期待と不安が入り交じるのは学校現場も同じ。大手予備校の河合塾が高校教員ら１３９人に尋ねたアンケートでは、生成ＡＩの学習への利用は「自由に使うべき」が31％で、「禁止するべき」「一部制限を設けるべき」は計58％だった。

　神奈川県立高校の教員は「新技術が存在する以上、対応の仕方を教えなければならない」との立場だ。「生徒がリポートを作成する場面なら、事実関係の確認にＡＩを使い、意見を表明する部分は自ら書き込むやり方があるだろう」と話す。

　一方、中部地方の中学校長は、生成ＡＩのメリットとして言いはやされる「アイデアのたたき台」に使うことに疑問を抱く。「例えば体育祭のスローガンを考える場面なら、生徒がゼロから生み出し、意見をぶつけ合う過程が最も重要なはずだ」。かけがえのない経験がＡＩによって失われかねないことに危機感があるという。

シンギュラリティ―AIは人類を滅ぼすか（2023/7/5　京都新聞）

インテグラル取締役パートナー　佐山　展生

　最近、急速に対話型人工知能（ＡＩ）「チャットＧＰＴ」などの生成系ＡＩが話題になっている。まだ新しいシステムのため間違うこともあるものの、今後、学習を重ねればその精度は飛躍的に増すものと予想される。

　ＡＩが膨大なデータをもとに急速に学習を続けることで加速度的に知能レベルが向上し、近いうちに人間を超えるのではないかと言われている。その転換点を迎えることを「シンギュラリティ」と呼び、一説には２０４５年とされる。このシンギュラリティは知能面だけの話だが、近年のロボット技術の進化により、物理的にも人間に近いものができつつある。もし人間に近いロボットに、人間をはるかに凌ぐＡＩが搭載されれば、ＡＩはＡＩ自身でより賢い強いＡＩを作っていくといわれる。そうなれば、もう人間はこの超高知能高性能ロボットに勝てるすべはなくなる可能性がある。

　かのホーキング博士は「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない」と言い残した。また、ＡＩ研究の世界的権威、カナダートロント大のジェフリー・ピントン名誉教授は、生成ＡＩの発展で情報の真偽の判断が困難になることを懸念し、技術の進化は予想以上に早く、制御可能と判断できるまでは先に進めるべきではないとし、その危険性について話すため米グーグルを退社した。

　さらに、イスラエルの歴史学者ユヴァル・ノア・ハラリ氏は、今後ＡＩはかつて目にしたことがない言論操作能力を持つとして「これは権威主義国家より、とりわけ民主主義国家にとって深刻な脅威である。。民主主義は国民同士の対話で成り立っているのだ。こうした対話がＡＩに乗っ取られれば、民主主義は終わる」と述べている。

　今年３月、米電気自動車大手アスラのイーロン・マスクＣＥＯ（最高経営責任者）らの非営利団体は、チャットＧＰＴのようなシステムは「一般的なタスク（仕事）において人間並みの競争力を持つ」として、人類と社会に対する潜在的なリスクをもたらすと警告した。ＡＩの研究組織に対し、新技術の危険性が適切に評価されるまで強力な技術の開発を６ヵ月間休むよう求めた公開書簡に署名した。

　ＡＩが人間を超えた世界に突入するのが次の進化ステージだ。例えば、米バイテン大統領があたかも演説をしているような画像と音声を作成し、根も葉もない偽りのメッセージを世界中に流すのはたやすくなる。そうなれば、偽りの情報が世の中に溢れかえり、何が真実かだれも分からない混沌とした情報社会の領域に突入する可能性がある。

　さらに、人間のように動ける、見た目は人間と区別がつかない高知能高性能ロボットが完成したとしたら、それこそ、ＳＦの世界が現実になり、人類が彼らに征服される可能性も決して否定できなくなる。

　驚異的な速度で進化を遂げるＡＩをどのように人類が制御していけばいいのか、今後の世界の議論に注目したい。

文科省　「大学のAI指針　罰則明示を」（2023/7/14　京都新聞）

　文部科学省は13日、対話型人工知能（ＡＩ）「チャットＧＰＴ」といった生成ＡＩの大学教育での取り扱いについて、各大学が指針を策定する際の留意点をまとめ、通知した。活用が有効な場面を示した上で、リポートを作成させることは不適切と指摘。指針が利用不可としたケースで使った場合のペナルティーなどを検討し、学生らに示すことが望ましいとした。

　通知では、各大学が主体的に指針を策定することが重要と強調。ＡＩは急速な進歩が続いており、適宜見直すことも求めた。

　活用が想定される場面としては、論点の洗い出しや翻訳、プログラミングの補助といった学生の学びの支援を列記。教員の教材開発や大学事務への利用も考えられるとした。

　留意点では、生成ＡＩでのリポート作成は一般的に不適切で、内容によっては盗用になる可能性があると言及。生成ＡＩをリポートに利用した場合、教員が適切に評価するためにＡＩの種頚や箇所を明記させることや、小テストや口述試験との併用が有効だとした。

　他の留意点には�@ＡＩの生成物には虚偽内容も含まれること�A入力を通じて機密情報や個人情報が漏えいする可能性�B著作権侵害のリスターを挙げた。

オープンAIにマスク氏対抗（2023/7/16　京都新聞）

【ニューヨーク共同】米企業家のイーロンーマスク氏は14日、人工知能（ＡＩ）を巡り、「（一部の）企業が独占するのではなく競争が必要だ」と述べ、新たに設立したＡＩ開発企業「エックスＡＩ」で、「チャットＧＰＴ」を開発したオープンＡＩなどに対抗する考えを示した。

　ツイッターの音声サービス「スペース」を通じてエックスＡＩの技術者などとの対話を公開した。

　マスク氏は「全てのＡＩがツイッターのデータを使っている」として、ツイッターのデータを自身のＡＩの学習に活用するとも語った。

　マスク氏はオープンＡＩの創業メンバーの一人だったが意見対立から離れ、オープンＡＩやグーグルがＡＩの安全性に配慮していないと批判している。

　マスク氏は、最高経営責任責（ＣＥＯ）を務める電気自動車（ＥＶ）テスラとエックスＡＩが、半導体やソフトウエアの開発などで協力する考えも表明した。

生成AIで「仕事の能率向上」（2023/7/17　京都新聞）

【ワシントン共同】米マサチューセッツエ科大のチームは16日までに、対話型人工知能（ＡＩ）「チャットＧＰＴ」を活用した場合、仕事の能率が上がるとの実験結果を科学誌サイエンスに発表した。大卒のホワイトカラー４５３人が参加した実験で、文章作成にかかる時間が40％短縮し、質は18％向上した。能力の高い大と低い人の差は縮まった。

　参加者は２グループに分かれ、一方がＡＩを使用。使った人の大半は出力された文章を無修正か軽く直すだけで自分の成果にした。チームは、ＡＩが仕事を助けてくれるのか奪ってしまうのかは未知数で「経済や雇用は大きな不確実性の時代に入った」と指摘した。

　実験はチャットＧＰＴが注目され始めた１〜２月に実施。企業の人事担当や管理職らが参加した。報告書やメールなどを書く課題を２回出し、高い点数が付くと報酬にボーナスが加わる仕組み。

　１回目は両クループともＡＩを使わず、時間や点数に差はなかったが、２回目はＡＩ使用を認めたクループで80％が実際に使用し、こなす速度や点数を改善した。特に１回目で点数が低かった人ほどＡＩを使って大きく挽回した。33％はＡＩが作った文章をそのまま提出。53％は修正したが、大半が体裁を整えるなど軽い編集だった。

「AI兵器禁止法的枠組みを」（2023/7/20　京都新聞）

【ニューヨーク共同】国連安全保障理事会は18日、人工翔能（AI)を協議する初の公開会合を開いた。軍事利用や虚偽情報拡散といったリスクの管理に向けた国際協調の必要性を訴える声が相次いた。日本と欧州の理事国はＡＩを活用する上で民主主義と人権の尊重を重視。中国とロシアは欧米主導の議論をけん制し、溝が露呈した。

　国連のグテレス事務総長は、人間の判断に基づかずに殺傷する自律型ＡＩ兵器を禁じる法的枠組みを交渉し、２０２６年までに妥結させるよう各国に求める方針を明らかにした。議長を務めたクレバリー英外−相は「ＡＩの影響を受けない国はない」と述べ、各国の政府や企業の連携を求めた。

　米ＡＩ企業アンスロピックの共同創業者シャツクーグラーク氏は、ＡＩが開発者も想定できない使われ方をする恐れがあるとして「開発を民間任せにしては いけない」と強調した。各国はＡＩの能力や欠点を評価する体制を確立して対応すべきだと勧告した。

　会合には政治的対立が影を落とした。米国のデローレンティス国連次席大使代行は専制主義の中ロを念頭に「どの国も検閲や抑圧のためにＡＩを使うべきではない」とくぎを刺した。日本の武井俊輔外務副大臣も「支配者の道具にしてはならない」と指摘した。

　中国の張軍国連大使は「技術的な覇権を狙う先進国」による開発の妨害があれば反対すると表明。国際的なルール作りが進むまでは各国が文化や環境に応じ て独自にＡＩを規制すべきだとし、「内政干渉」を容認しない立場をにじませた。

　ロシアのポリヤンスキー国連次席大使は「欧米諸国は良心の呵責なくＡＩに否定的なメッセージを拡散させている」と主張した。

【インサイド】AIに「人類存亡リスク」

　国連安全保障理事会は18日、人工知能（ＡＩ）を巡る初会合を開いた。グテレス事務総長は「人類存亡のリスク」に言及、制度づくりの必要性を呼びかけた。欧州が人権や民主主義に与える負の影響の懸念から厳格規制を志向する一方、中国は共産党一党支配を揺るがす脅威を除去する観点から統制に乗り出す。各国はそれぞれの思惑で規制を模索する。

　「生成ＡＩの開発者自身も人類の存亡に関わる巨大なリスクがあると警告している」。グテレス氏は会合でそう強調し、虚偽情報やヘイトスピーチの拡散が加速することに強い危機感を表した。生成ＡＩが各国の発展に貢献する可能性を評価する一方、大量のデマで「真実がゆがめられ、人間の操り方が新たな局面を迎える」と問題視した。

　世界共通の規範やルールの作成を求め「リスクへの対処を怠れば現代と将来世代への責任を放棄したことになる」と訴えた。技術を管理する専門的な国連機関を創設するとの一部の有識者らが提唱した構想を「歓迎する」と賛意を示した。

　ヘイトスピーチを監視する団体が米グーグルの対話型ＡＩ「Ｂａｒｄ（バード）」で、意図的にデマや誤情報を含んだ文章などを作ろうとしたところ、78％で誤りを指摘する注釈がなく作成できたという。交流サイト（ＳＮＳ）の投稿に見せかけて信ぴょう性を持たせることも可能だった。

　欧州議会は６月、世界に先駆け包括的ＡＩ規制案を採択した。画像や文章をＡＩが生成したことの通知や、開発に使用した著作物の開示を求めるなど企業側に厳しい内容。違反した場合の罰金も最大４千万ユーロ（約62億円）か、法人の場合は年間売上高の７％と高額だ。

　企業からは厳格規制に不満が上がる。欧州大手企業などは６月の公開書簡で「欧州の競争力と技術的主権を危うくするものだ」と主張。企業が欧州から撤退し、投資家がＡＩ開発から手を引く恐れがあると指摘した。

　中国政府は８月15日から生成ＡＩを規制する管理規則を施行する。規則の柱は習近平国家主席が重視する「国家安全の維持」だ。計24条の規則はＡＩの自由な利用が共産党一党支配の脅威とならないよう禁止事項が羅列され、統制色が強い。

　「国家政権転覆を扇動する内容禁止」「虚偽の有害情報槃止」。規則はサービス提供企業にさまざまな制約を課す。「国家のｆメージを損なう内容」も禁じるなど反スパイ法と同様にあいまいな表現が多い。

　西側の民主主義を否定した「社会主義の核心的価値観」の堅持を企業に求め、海外の生成AIが規則に合わなければ「必要な措置」を取るとした。米新興企業オープンＡＩのチャットＧＰＴなど、反体制的な言論を生成しかねない海外勢を締め出し、開発を進めるアリババグループや百度（ハイドゥ）などの国内インターネット企業をコントロールしながら、中国流でＡＩか発展させる方針だ。（ニューヨーク、ブリュッセル、北京共同）

米メタ　AI基盤無償提供（2023/7/20　京都新聞）

【ニューヨーク共同】米ＩＴ大手メタ（旧フュイスブック）は18日、対話型人工知能（ＡＩ）の技術基盤を、マイクロソフト（ＭＳ）のグラウトサービスの利用者などに無料で提供すると発表した。技術基盤となる大規模言語モデルの新バージョン「Ｌｌａｍａ（ラマ）２」の商用利用を可能にし、手始めに「優先パートナー」と位置付けたＭＳに提供を開始する。

　メタのサッカーパーク最高経営責任者（ＣＥＯ）は、ラマ２を自由に改変ができるオープンソースとすることで「研究者や企業は私たちの言語モデルを基盤として使って構築できるようになる」とコメントした。また「多くの人が精査することで安全性も向上する」と強調した。

　メタは従来の「ラマ」については研究目的で一部だけに提供していた。ラマ２は従来モデルよりも多くのデータで学習させたという。

　チャットＧＰＴを開発した米新興企業オープンＡＩや米グーグルはオープンソースにしておらず、ラマ２を活用してより高度なＡＩを開発する動きが進む可能性がある。

　ＭＳは、オープンＡＩに投資して同社製品を多く組み込んできたが、メタとも組むことで顧客の多様なニーズに応えることを目指す。

京都企業、チャットGPT注目（2023/7/22　京都新聞）

　人間のような自然な文章を作成できることから急速に普及が進む対話型人工知能（ＡＩ）ソフト「チャットＧＰＴ」。京都企業でも社内業務の効率アップを目的に試験的に運用したり、商品やサービスに活用したりする動きが出始めた。一方、情報漏えいへの懸念から活用に慎重な企業も多く、導入を検討する企業もガイドライン作りなどの対策を急いでいる。（田中俊太郎）

　村田製作所は今月初旬、社内業務でチャットＧＰＴを含む対話型ＡＩサービスの試験運用を始めた。対象は、グループ会社を含め、国内の全従業員約３万人に及ぶ。

　業務の生産性を高める狙いで、社内外の情報検索やシステム開発、資料作成などに活用しているという。広報担当者は「試用期間に得られたデータを基に有効性や課題を評価し、本格導入に向けた準備を進めていきたい」と話す。

　京都銀行も８月上旬から決裁文書や会議資料の作成、翻訳などでチャットＧＰＴを試験導入する。本店の部署から利用を始め、支店にも広げるという。

　チャットＧＰＴを顧客向けのビジネスに活用する企業もある。

　地域情報誌「Ｌｅａｆ」を出版するリーフ・パブリケーションズ（京都市中京区）は４月末、チャットＧＰＴをＬＩＮＥ（ライン）に組み込み、京都の飲食店などの情報を提供するサービス「ＫＹＯＴＯ　Ｃｈａｔ　Ｇｕｉｄｅ」を始めた。

　利用者はアカウントを登録後、ラインの「トーク」欄に「京都市役所近くの和食の店を教えて」などと入力すると、同社が過去２年間で取材した飲食店データからの抽出情報が表示される。利用者が直接キーワードを入力するためニーズを把握しやすいといい、担当者は「どういうキーワードが検索されているか、具体的なデータが分かるため今後の記事の作成にも生かしていきたい」と話す。

　チャットＧＰＴは昨年11月に一般公開された後、急速に普及した。業務の効率化や業務量の削減が期待できる一方、企業が持つ機密情報などが漏えいするといった懸念も根強くある。

　すでに導入を表明した村田製や京都銀は社外ネットワークにつながずに使えるマイクロソフト社の法人向けサービスを採用するとともに、顧客や機密に関する情報の入力を禁止するなどして情報管理に力を入れる。

　京セラも導入に向け、運用指針を定めたガイドライン作成などの準備に乗り出した。

　ただ、導入に慎重な企業も多く、大手メーカーの担当者は「部署によっては発表前の情報を多く扱っているため、業務で使えるかどうかを含めて社内で検討している段階」と話す。

AI生成映像識別技術促進（2023/7/22　京都新聞）

【ワシントン共同】バイテン米政権は21日、人工知能（ＡＩ）開発を主導するグーグルやメタ、オープンＡＩなど７社からＡＩの安全性や透明性向上に取り組む同意を得たと発表した。各社は偽の映像や音声で誤情報を拡散するディープフェイク対策として、ＡＩによる生成を識別できる技術開発を推進。新サービス公開前には社内外の専門家が安全性を確認する。

　リーダー格の企業による自主対策だが、イーロン・マスク氏の「エックスＡＩ」や中小ベンチャーなどは名を連ねていない。政権関係 者によると、業界全体を巻き込んだ消費者・労働者保護に向け、バイテン氏が近く大統領令を出す。個人情報保護などを盛り込んだ立法は別に必要だとして、議会と調整している。

　ディープフェイクは本物そっくりの偽コンテンツで、生成技術の高度化に伴い嫌がらせやポルノへの悪用の懸念が高まる。来年の大統領選でも握造された発言が飛び交うとの予想もある。対抗手段として研究されているのが「電子透かし」と呼ばれる技術で、真贋を示す目印をデータに忍ばせて判別を可能にする。

　サービス公開前の安全確認では、効果の高い薬になる化学物質を提案するＡＩが強毒の化学兵器設計に転用されないか、人の代わりにプログラムを書くＡＩがコンピューターウイルス作成を手伝わないかなどを検証。差別や偏見を生むような文章の生成を回避できるかどうかもチェックする。外部の目による検証も有用とされ、オープンＡＩは既に取り入れている。

グーグルが記事作成AI（2023/7/22　京都新聞）

【ニューヨーク共同】米グーグルが人工知能（ＡＩ）を使ったニュース記事の作成ツールを開発していることが20日までに明らかにな った。ニューヨークータイムズの報道によると、同紙やワシントン・ポストといった米大手紙に売り込んでいるという。

　情報を取り込んで記事を自動で作成し、記者の助手のような役割を果たすとしている。他にウォールストリート・ジヤーナルを傘下に持つ米メディア大手ニューズ・コーポレーションとも接触している。メディア側が使用を検討しているかどうかは明らかになっていない。　

　グーグルの広報担当者は共同通信に声明を寄せ、ＡＩの提供について「アイデアを模索している初期段階だ」と認めた上で、「目標は生産性を向上させることで、記事を書き事実確認をするジャーナリストの不可欠な役割に取って代わるものではない」と説明した。

　ＡＩを巡り、米ＡＰ通信が企業の決算記事の作成に取り入れるなど報道への活用は一部で始まっている。ＡＰは今月、対話型ＡＩの「チャットＧＰＴ」を開発した米オープンＡＩとの提携を発表。過去の記事をデータ学習用に提供し、一方で生成ＡＩの報道への活用方法を検討する。

　生成ＡＩは回答に間違いが含まれることもあり、情報の偏りへの懸念が強いため使用に慎重意見も多い。

生成AIと音声で対話（2023/7/25　京都新聞）

　富士通子会社のリッジラインズ（東京）は、音声で生成人工知能（ＡＩ）「チャットＧＰＴ」と人が対話できるシステムを開発した。企業で会議の進行を支援したり、社員のキャリア相談に乗ったりする役割を任せることを想定する。７月下旬からリッジラインズの社内で試行し、課題を検証した上で、外部にサービスの提供を始める方針だ。

　ＡＩがオンライン会議に参加し、進行をサポートする。参加者の発言をリアルタイムで記録し、議論の要点などをまとめて、参加者の意思決定を支援する。議事録の作成にも利用できる。

　リッジラインズは、ＡＩが社員の相談役となり、経歴や強みを踏まえたキャ人ア形成を助言する役割も果たせるとみている。職務ごとに必要とされる経験や能力といった人事関連の情報を読み込ませ、スキルアップを目指す利用者に研修の受講を提案するといった使い方を想定している。

ブッダとの対話　自然に（2023/7/26　京都新聞）

　「悟りの境地」にあるブッダが悩みについて助言する仏教対話ＡＩ（人工知能）「ブッダボット」に、生成ＡＩ「チャットＧＰＴ」を組み合わせ、ブッダの言葉をかみ砕いて伝える「ブッダボットプラス」を、京都大などのグループが開発した。助言の基となる仏典を理解しやすくし、現代的な悩みにも柔軟な回答が得られるよう従来版を進化させた。

　ブッダボットは同グループが釈迦と弟子の対話を記した最古の仏典「スッタニパータ」などをＡＩに学習させ、２０２１年に開発。質問を入力すると、仏典から最も適切な言葉を探して回答する。ただ、文言をそのまま引用するため相談内容によって的外れな回答もあり、今回、チットＧＰＴによって新たに文章作成の機能を組み込み、追加説明を加えるよう改良した。

　新型版はブッダとより自然な対話が可能になり、対応できる質問の幅も広がった。例えば「ＳＮＳは必要ないですか」との質問に対し、ブッダポットプラスは仏典の引用から「自分が得た知識だけに頼ってはならない」と回答したうえで、「ＳＮＳが必要かどうかは個々の状況によるので、ＳＮＳだけに頼らず、他の情報源や自身の判断も重視することが重要という意味です」と補足する。

　ただ、チャットＧＰＴによる文言の解釈を巡り、宗派によって見解が異なる場合も想定される。ブッダボットプラスの活用は当面、仏教学者や僧侶が同席して解説できるワークショップなどの場を予定し、一般利用は今後検討するとしている。

　開発を手がけた京大人と社会の未来研究院の熊谷誠慈准教授（仏教学）は「分かりやすさと使いやすさが格段に増した。さらに改良を進め、古代の英知が現代でも人の役に立つことを示したい」と話している。

児童わいせつ画像　AI生成はポルノ？（2023/8/8　京都新聞）

　学習したデータを基に画像イメージを出力する画像生成ＡＩ（人工知能）の普及に伴い、ＡＩで作ったとみられる女児のわいせつな画像がインターネットで多数公開されている。実在する児童なら、児童買春・児童ポルノ禁止法（児童ポルノ法）に抵触するが、ＡＩ画像が取り締まり対象となるかは不透明だ。警察庁や法務省は「個別に検討するしかない」と回答するにとどまり、規制の要否などが新たな課題となりそうだ。

　ある画像投稿サイトには、ＡＩで生成したとされる幼児や小学生ぐらいの女児のわいせつな画像が公開されていた。実際の写真と見間違う精巧さで、下着や水着姿のほか、裸の画像もあった。会員登録すれば誰でも無料で閲覧でき、過激な画像は有料に設定されていた。投稿者は「ＡＩでロリっ子のかわいい、エッチなイラストを作っています」などと記載していた。

　こうした画像は、高精度の画像生成ＡＩの登場により、急速に広がっているとみられる。児童ポルノ法では、18歳未満の児童の裸や胸などを露出した画像の作成、公開を禁止している。２０２０年、CGで作られた児童ポルノを巡る裁判で、最高裁は「実在しない児童を描写した画像は児童ポルノに含まない」との判例を示した。漫画など架空の児童は同法の対象外とされる。

　一方、画像生成ＡＩは、実在する児童の写真を基に画像が作れる。そうやって生み出された画像が、児童ポルノに該当するかはあいまいだ。警察庁人身安全・少年課は、ＡＩで作った児童ポルノの摘発事例は把握していないとし、「児童が実在するかが焦点になると考えられるが、新しい技術で、生成方法も複雑なため、個別の画像ごとに検証するしかない」と説明する　　　　　　卜

　法務省刑事局は「実在の人物を基にしたＡＩ生成画像は、類似の程度によっては児童ポルノ法違反になる可能性がある」との見解を示す。生成方法や実在の人物かを問わず、わいせつ性が高いと判断されれば、わいせつ物頒布罪が適用される可能性もあるという。

　ＡＩと性表現の規制に詳しい東洋大の加藤隆之教授（憲法）は、児童ポルノ法の保護対象が「裸にされる」などの実害に遭った児童としている以上、「実在の顔写真を基にＡＩが作った画像でも、その児童の裸体と同一性が認められない限り同法での摘発はできないだろう」と説明する。

　ただ、アイドルの顔と裸の写真を合成した画像のように「ＡＩで生成された画像の顔が、実在の児童と似ていれば重大な人格侵害になる。画像生成ＡＩを念頭に、新たに立法化するべきではないか」と指摘する。

自由研究にAI活用≠「悪」（2023/8/11　京都新聞）

　夏休みの自由研究は、小学生の保護者の悩みの種。テーマ探しなどで、人工知能（ＡＩ）を使う向きも出ている。ＡＩと教育との関係に詳しい田中博之早稲田大大学院教授は「あまり使うと依存する懸念もある。あくまで自分が考えることを原則にするべきだ」と指摘する。

　小中学生のＡＩ活用について、文部科学省は７月にガイドラインを発表。適切でない利用例として▽ＡＩが作ったものをコンクールの作品やリポートとしてそのまま提出すること▽調べるために、教科書などの教材を活用する前に安易にＡＩを使うことＩなどを挙げている。

　一方、活用できる例としては▽課題研究で自ら作成したリポートの素案に足りない点などを補充するために使う▽自分で書いた文章をＡＩに修正させ自分で推敲し、より良い自分らしい文章として整える―ことなどを示した。

　学習サービスのベネッセ（岡山市）は７月、「自由研究お助けＡＩ」のサービスを開始。これは、子どもが質問すると、テーマやリサーチに関して支援してくれるもの。保護者が登録し、親子で使うように設計されている。読書感想文への利用は不可能で、１日の質問回数は10回までといった制限がある。

　東京都内で同ＡＩの体験会に参加した40代パートの女性は「実際に使ってみると、悪いものではなさそう。子どもの自由研究のテーマは毎年なかなか決まらないが、ＡＩがいろいろ提案してくれるので今年は進めやすいかも」と期待を寄せた。

　田中教授は「ＡＩに頼り過ぎると自分で考える力が衰える恐れがある。丸投げするのはだめ。自分で考えたり調べたりするのが基本」と強調。読書感想文についても「まずは自分で本を読んで、どう感じたかを表現することが大切」と話す。

　ただし、ＡＩは単純な質問には簡単な答えしか返してくれないが、自分でよく考えた上でＡＩに質問すれば、より深掘りした答えが返ってくるという。

　「マラソンで言えば良き伴走者。上手に使えば、どんどんテーマに深く入って行ける。主体的な思考を体験することができる」と田中教授はメリットも挙げている。

生成AI実証実験開始（2023/8/23　京都新聞）

　評判の映画「オッペンハイマー」を見た。マッカーシズム（共産主義者弾圧）渦中の米国で、「原爆の父」である科学者の事実上の公職追放を決定した１９５４年の保安聴聞会を軸に、彼の人生とその中核を占めた原爆開発の物語と、それがもたらした帰結への苦悩が描かれる。

　オッペンハイマーは戦後、核兵器の国際管理を呼びかけ水爆開発に反対するなど、核軍縮への声を上げた科学者の一人ともなった。後年、インドの古典から「我は死神なり、世界の破壊者なり」という言葉を引用して後悔を表したという。

　原爆投下後の広島・長崎が一度も登場しないことに批判があるという。私自身は、この映画は加害者と被害者といった構図を大きく超え、人間と人類社会が内包するとてつもない悲劇と矛盾を冷徹に描いていると感じた。

　進行中の戦争に勝利するという「国家の利益」のため、「熱核暴走」によって核爆発が全世界を崩壊させる可能性がゼロではない、との科学者たちの警告にもかかわらず、45年７月、初の核実験が行われたという事実に戦慄した。

　　　　　安全保障が一変

　映画の評判と、生成ＡＩ「チャットＧＰＴ」のここ数力月の進展がもたらす衝撃の相乗効果だろうか、ＡＩと、初の核実験を境にその後の世界が二度と同じでなくなったような「オッペンハイマー的瞬間」についての論調が盛んになった。従来の科学技術とは異なり、ディープラーニング（深層学習）によって自ら進化するＡＩは、いずれ人間の知能を超える「シンギュラリティー（技術的特異点）」に到達すると言われている。「オッペンハイマー的瞬間」に科学者はどう対峙すべきかという議論だ。

　さらに言えば、これはＡＩ分野に限らない。さまざまなバイオ技術、ナノテクノロジー、量子コンピューターなども、私たちの社会や安全保障を根本的に変えるだろう。新たな科学技術がもたらす利益は計り知れないほど大きいが、安保分野では、核兵器の誕生と同じような決定的 な影響があるのは間違いない。

　ＡＩ技術が将来の軍事バランスの優劣を左右するだろうし、戦争の在り方もすでに大きく変わりつつある。近未来の戦争はフェイクニュースなどを駆使しながらＡＩが仕掛ける大規模サイバー攻撃に始まり、ＡＩを搭載したロボット兵器やドローンと人間の兵士が混在した状況で、ＡＩに支えられた指揮系統によって統率されるのだろう。

　ＡＩが核兵器指揮系統を管理することになるとしたら、誤作動による核戦争を防ぎ、世界を救ったと言われる旧ソ連戦略ロケット軍のペトロフ中佐のような判断を、ＡＩはするだろうか。そして、新たな軍拡競争はすでに始まっている。

　　　　　法の支配揺らぐ

　国際社会は、科学技術の進展とともに増加する戦争における人間の犠牲を減らすために、国際人道法などの国際法・規範を作ってきた。戦争を防げなくとも、武力行使はルールに基づき行われなければならない。戦闘員と非戦闘員は厳格に区別され、市民は保護されなければならない。

　そして、戦闘員たる人間が下した判断には説明責任が要求され、国際人道法違反の場合は責任を問われる。ＡＩが戦場で武力行使の判断を下し、人間の命を奪う決定をすることになれば、法の支配に基づく私たちの世界の秩序が根本から揺らぐ。

　国家安全保障のため、民主主義体制を守るために競合相手より先にＡＩ兵器を完成させなければならないとの主張は、原爆開発の時と全く同じ論理だ。破滅的な兵器を持ってしまってからのリスクがいかに大きいか、そして軍縮努力がいかに困難であるかを、私たちは核兵器で知っている。

　グテレス国連事務総長は７月に発表した「新たな平和への課題」の中で、ＡＩの平和利用を促進するとともに、乱用を制限する新たな国際機関の設置を提言した。私たちはこのための準備作業を始めている。同時に、人間の関与なしに機械が武力行使の決定を下す「自律型殺りく兵器」の規制のため、２０２６年までに法的拘束力をもつ国際合意を交渉・締結することを加盟国に求めた。近視眼的な利益ではなく、人類共通の利益を考えるべき時代を私たちは生きている。人類の将来にわたる生存のために。　（国連事務次長）中満　泉

生成AI活用探る企業（2023/9/8　京都新聞）

　求めに応じて文章や画像をつくる生成ＡＩ（人工知能）を、事業に生かそうとする企業が広がってきた。新たなサービスの創出や、業務の効率化につなげる狙いで、賞金付きのアイデアコンテストを開く社もある。誤った使い方による情報漏えいなど、ＡＩの利用に伴うリスクを抑える取り組みも進みそうだ。

　インターネット投稿サイト「ｎｏｔｅ（ノート）」は２月から、文章などの創作活動を支える「ＡＩアシスタント」の提供を始めた。利用者が記事の大まかな内容を入力すると、タイトルの候補や記事の構成をＡＩが示してくれるサービスだ。

　「編集者のように、自分には思いつかない視点で提案してくれる」。コラムや小説など月に数本の作品を投稿する野やぎさん（35）は、サービスによって新たな気付きを得ているといい、さらなる進化に期待感を示す。

　帝国データバンクが６月に行った調査によると、生成ＡＩを業務で活用していると答えた企業は９・１％、活用を検討している企業は52・Ｏ％で、60％以上が前向きな姿勢を示した。一方、検討中の企業も、多くは使い方のイメージが湧かないとし、対応を模索している様子がうかがえた。

　こうした中、対話型ＡＩの「チャットＧＰＴ」の活用アイデアを募ろうと、４月から賞金付きの社内コンテストを開いているのは、ＧＭＯインターネットグループだ。全従業員が応募でき、月間や四半期のチャンピオン、年間グランプリなどを決める。実現したアイデアの例では、チャットＧＰＴへの命令文「プロンプト」の知識を従業員の間で共有する仕組みがある。

　同社ＤＸ推進開発部の李奨培部長は「ＡＩは全従業員が身につけなければいけないツールだ」と強調する。ＡＩの進化と環境の変化は速く、コンテストなどを通じて「ＡＩ業界の流れ、動きを察知し、ついていくことがとても大事」と語る。

　伊藤忠商事は、全社員が生成ＡＩを使えるような体制づくりに乗り出した。資本・業務提携先と「生成ＡＩ研究ラボ」を設け、情報漏えいを防ぐためのＩＴ環境や、社内のサポート体制を整える。将来的に、ＡＩを新規事業の開発などに役立てられないか検討する。　

【AI　覇権の行方】（上）世論誘導に悪用される兵器（2023/10/17　京都新聞）

　対話型人工知能（ＡＩ）「チャットＧＰＴ」などの生成ＡＩにより、社会を混乱させる巧妙な偽情報が増える懸念が強まっている。情報操作や世論誘導への悪用など、ＡＩが民主主義の根幹を揺るがす危機が迫る。専門家は「ＡＩが作った偽情報は、ＡＩで見破るしかない時代が来た」と話す。

　「ＡＩによる偽情報は私たちの認知をゆがめ、怒りや憎しみという感情をあおる兵器になる。交流サイト（ＳＮＳ）では既に戦いが起きているが、対策は全く追い付いていない」。京都市で開かれた国連会議「インターネット・ガバナンス・フォーラム」で８日、２０２１年にノーベル平和賞を受賞したフィリピンのジャーナリスト、マリ アーレッサ氏は居並ぶ各国政府の職員や米大手ＩＴ幹部らを前に強い口調で指摘した。

　今年５月、米国防総省らしき建物の前で大きな黒煙が上がる偽画像がＳＮＳに広がった。米有力メディアを装った偽アカウントが偽画像を拡散し、二ユーヨーク市場の株価が一時値下がりするなど金融市場に影響が及んだ。

　実際に爆発が起きていないことは地元消防局がすぐに指摘した。ただ画像は人間の目では簡単に偽物と見抜けず、多くのメディアや証券会社がだまされた。偽画像の出所は陰謀論勢力「Ｑアノン」の支援者とみられる。

　ＡＩは偽画像を見抜けるのだろうか。ベンチャー企業のＮＡＢＬＡＳ（東京）が開発したＡＩにこの画像を分析させたところ、７割以上の確率で「偽」だと判断した。ＡＩは樹木の葉の描写に注目し、不自然だと判別した。ＮＡＢＬＡＳの鈴木都生氏は「生成ＡＩの作る画像や動画には特有の癖やパターンがある。ＡＩに学習させることで偽画像を判別できる」と話す。

　22年のロシアのウクライナ侵攻では、ゼレンスキー大統領がウクライナ軍に降伏を呼びかける偽動画が広がった。ＡＩの性能はそれ以降も飛躍的に向上を続ける。対立候補をおとしめる偽動画によって選挙戦を有利に展開したり、偽のニュース動画を投稿し閲覧の対価を稼いだりすることが一段と懸念される。

　みずほリサーチ＆テクノロジーズ（東京）の中志津馬氏は「誰でもアルバイト感覚で偽情報が作れるようになった。悪用を見破るＡＩの開発や普及など、高度な技術には高度な技術で対抗するしかない」と訴える。

　　　　　　　　◇

　誰でも簡単に文章やプログラム、画像や動画を作ることができる生成人工知能（ＡＩ）。国連会議「インターネット・ガバナンス・フォーラム」では国際ルールの在り方が活発に議論されたが、ＡＩによる偽情報のまん延が引き起こす、社会の混乱や分断への懸念の声も相次いだ。中ロはネットの国家管理を強め、自由な言論空間を尊重す る米国主導のルールに対抗。ＡＩとネットを巡る覇権の行方は見通せないままだ。　

【AI　覇権の行方】（下）サイバー空間巡る対立（2023/10/18　京都新聞）

　国境のないサイバー空間の規律や在り方を巡り、国家間の対立が激しくなっている。表現や言論の自由を重視する西側諸国と、国による管理を強めたい中ロ。元総務審議官で、通信会社のインターネットイニシアティブ（ＩＩＪ）副社長の谷脇康彦氏は「既にデジタル冷戦と言うべき緊張状態だ。生成人工知能（ＡＩ）で対立はさらに深刻 になる」と懸念する。

　「グローバルに開かれたネットを目指した米国の政策は失敗した」。２０２２年７月、米有力シンクタンク「外交問題評議会」が発表した報告書は通信業界の関係者を驚かせた。中ロからのサイバー攻撃や偽情報への対策として、米政府がこれまで実施してきた刑事訴追や経済制裁は「敵対国に十分な代償を払わせることができなかった」 と分析した。

　インターネットは１９６０年代、米国防総省の構築した研究用ネットワーク「アーパネット」が起源だ。大学や企業などが個別に構築していた通信網を統合しながら、徐々にルールが整備された。現在は特定の国家の管理を受けず、ネット上の住所であるＩＰアドレスは民間団体が管理。西側諸国は規制を最小限にし、民主主義の根幹となる表現や言論の自由が尊重されることを共通認識としてきた。

　一方で、中国やロシアは国家がサイバー空間に厳格な統制を敷く。中国はグレート・ファイアウオールと呼ばれる通信検閲システムを構築。政府に都合の悪い情報を国内からアクセスできないようにし、ロシアは西側メディアや交流サイト（ＳＮＳ）を厳しく規制する。ネット空間は米国主導のルールに基づいているとし、新たなルールの必要性を主張する。

　西側諸国は中ロが手軽に文章や画像、動画が作り出せる生成ＡＩを悪用し、精巧な偽情報を発信して西側諸国への世論誘導や選挙戦介入を恐れる。22年のウクライナ侵攻に合わせ、ロシアはＳＮＳでさまざまな偽情報を流布し、相手国や支援国を揺さぶる情報戦を展開。中国は東京電力福島第１原発処理水の海洋放出に対し、ＳＮＳで世界に偽情報を広げた。。

　岸田文雄首相は９日、国連会議インターネット・ガバナンス・フォーラム」で「自由で分断のないネットは民主主義の基盤だ」と説いた。谷脇氏は「厳しい状況でも西側と中ロが対話を続けることが何より重要だ」と訴えている。　

日本、議論ためらい出遅れ（2023/10/31　京都新聞）

　バイテン米大統領が人工知能（ＡＩ）のリスクを管理するための大統領令を出した。ＡＩ規制を巡っては欧州連合（ＥＵ）が厳しい法制化に向けて先行。米国は世界的なＡＩ企業や有力な研究機関が集中しており、大統領令によって国際的なルールの議論を主導する構えだ。

　日本は先進７力国（Ｇ７）議長国である年末までに、ＡＩの国際ルール作りを進める枠組み「広島ＡＩプロセス」で成果をまとめたい考え。国立情報学研究所の佐藤一郎教授は「日本の調整力が試さ れる」と指摘する。

　バイテン氏は今年に入り、対話型ＡＩの「チャットＧＰＴ」を運営する新興企業オープンＡＩなどＡＩを扱う米企業トップと会談を重ね、安全性向上の自主的な取り組みの約束を取り付けた。

　一方、欧州議会は６月、世界初の包括的な規制法である「ＡＩ規則案」を採択。早ければ２０２４年にも施行される。ＡＩを分類し、リスクに応じた規制を適用。違反すると巨額の制裁金が科される。

　佐藤教授は「米国は訴訟大国だ。ＡＩが原因で問題が起きると開発企業は、巨額の損害賠償を求められるので実質的にＥＵ並みの強い規制となる」と分析する。「24年に大統領選を控え、ＡＩによる 偽情報の急増に警戒を強めている。（開発企業に）さらに厳しい規制がかかるのは間違いない」とみる。

　日本はガイドライン（指針）による緩やかな規制を志向している。佐藤教授は「日本だけがイノベーション（技術革新）の邪魔になるとの思い込みから、規制の議論に踏み込めずに出遅れている」と警鐘を鳴らす。「広島ＡＩプロセスを具体化し、各国の規制方針とすりあわせることで存在感を発揮してほしい」と強調した。　

NTT、生成AI提供へ（2023/11/2　京都新聞）

　ＮＴＴは１日、自社で開発した文章などを生成する人工知能（ＡＩ）サービスを、来年３月から金融機関など法人向けに提供開始すると発表した。１９８０年から社内で研究を重ねていた言語処理技 術を応用しており、先行する米オーブンＡＩが開発した「チャットＧＰＴ」に比べ日本語対応に強みを持つ。２０２７年に１千億円以上の売上高を目指すとしている。

　ＮＴＴの生成ＡＩの名称は「tuzumi（鼓）」で、グループのＮＴＴコミュニケーションズなどを通じて販売する。日本語の複雑な言い回しや専門用語を的確に要約できるほか、図表やグラフなどを読み込ませて回答を得ることも可能だ。英語にも対応する。

　これまでの実証実験では、保険会社のコールセンターで通話内容を要約するケースや、病院で電子カルテの情報をデータベースに一元化するケースで高い実績を残した。

　東京都内で記者会見したＮＴＴの島田明社長は、今後は他の企業でも日本語対応に特化した生成ＡＬの開発が増えると指摘した上で「各社の切磋琢磨で市場規模は大きくなっていく」と見通した。

軍事AI　米中競争過熱（2023/11/2　京都新聞）

　ＡＩ（人工知能）の軍事利用を巡る米国と中国の競争が激化している。民生分野では英国での「ＡＩ安全サミット」などでルール策定に向けた議論が進むが、軍事分野での開発は「歯止めのない」（米メディア）状況だ。過熱する覇権争いの中で、民生技術が軍事転用される懸念や、人間が介在しない自律型ＡＩ兵器が実用化される恐れも高まる。　　　　　

　「任務の多くでＡＩを活用している。技術革新のためＡＩに投資する」。ヒックス米国防副長官は６月、米メディアへの寄稿で軍事利用の必要性を強調。倫理面に配慮するとしつつも、巨費を投じて開発を進める意向を示した。

　背景にあるのは中国への焦りだ。米ＡＩ企業幹部は７月、下院軍事委員会の小委員会で、中国の軍事予算に占めるＡＩ関連支出の割合は米国の10倍だと指摘。このままでは米国が「後塵を拝する」と警告した。

　米軍は昨年12月、ＡＩが操縦する戦闘機の試験飛行を行い、離着陸や武器使用能力などを確認して実戦配備へ前進した。ＡＩで自律飛行する無人機（ドローン）部隊創設の準備も進め「（中国の）先を行く」（ヒックス氏）と巻き返しを図る。

　一方、人口減少が進む中国ではＡＩが軍の効率化に不可欠だ。「軍民融合」を掲げる習近平指導部は、地下鉄の改札や街の監視カメラなど市民生活の至る所でＡＩによる生体認証を実用化して技術力を高めてきた。ただ、こうした技術が人間の介在なしに敵味方を識別し殺傷する自律型兵器に転用される恐れもある。

　中国は台湾統一を見据えた「認知戦」でもＡＩ活用を重視。台湾世論分断を狙い、ＡＩで生み出した偽情報を拡散し、自国に都合の良い世論をつくり出そうとしているとの指摘も後を絶たない。

　米中を含む60力国超は今年２月、オランダーハーグで開かれた会議でＡＩの軍事利用について「責任ある利用を進める」とする文書に署名したが、法的拘束力はない。ウクライナに侵攻したロシアは招待されず、パレスチナ自治区との境界監視にＡＩを用いるイスラエルは署名を回避した。

　習氏は10月、ＡＩの秩序ある発展を目指す「グローバルＡＩガバナンスの提唱」を発表し、ルール作りの主導権確保へ動きを本格化させた。

　中国軍事に詳しい京都先端科学大の土屋貴裕准教授は、中国のＡＩ技術は世界トップレベルにあると指摘。米欧中心の既存の秩序に反対する一方、「先端技術を巡る新たなルール形成の過程で、自国に有利な方向に議論を向かわせようとしている」と解説した。（東京、北京共同）