話題のチャットAI「ChatGPT」のセーフガードを回避して「不適切な回答」を聞き出す手法とは？

AI開発団体のOpenAIが開発するチャットAI「ChatGPT」は、大学レベルの自由記述試験に合格したり、駐車違反の異議申し立てに有効活用されたりと、その高い能力に注目が集まっています。そんなChatGPTには不適切な質問への回答を拒否する機能が搭載されているのですが、あの手この手でChatGPTのセーフガードを突破する手法をAI研究者のデイビス・ブレイロック氏がまとめています。

続きを読む...

Source: GIGAZINE（ギガジン） 最新情報