勝村幸博の「今日も誰かが狙われる」〜相次ぐガードレールなしの生成ＡＩ　サイバー犯罪者「御用達」の使い道
日経コンピュータ　第1103号　2023.9.14

この記事の情報
掲載誌	日経コンピュータ　第1103号（2023.9.14）
ページ数	1ページ　（全1488字）
形式	PDFファイル形式　（166kb）
雑誌掲載位置	122ページ目

ＣｈａｔＧＰＴなどの生成ＡＩ（人工知能）には、悪質なプロンプト（命令）に応じない対策（ガードレール）が施されている。これによりサイバー攻撃などへの悪用を防ぐ。そこでサイバー犯罪者はガードレールを回避する手口を考え出す。すると生成ＡＩの開発元はそれを防ぐべくガードレールを強化する−。現状、攻撃者と開発元ではこのいたちごっこが繰り返されている。　だがそれも終わりかもしれない。ガードレールがないことを売…