ChatGPTなどの対話型AIの基礎となっている「Attention」を可視化した「Attention Viz」

ChatGPTやBing Chatの背景にある大規模言語モデルの多くは、Googleが開発したニューラルネットワークアーキテクチャーの「Transformer」を採用しています。このTransformerの鍵になるのが「Self-Attention」というシステムです。このSelf-Attentionを視覚化するためのツール「Attention Viz」を、ハーバード大学とGoogleの共同研究チームが発表しました。

続きを読む...

Source: GIGAZINE（ギガジン） 最新情報