AIによって書かれた文章を識別するAI技術

学生から企業の役職者までもが利用しているChatGPT

ChatGPTは、OpenAIが2022年11月に公開したチャットボットで、2022年の公開以降、質問に答えて自然な言葉で文章を生成できることで注目されています。しかしChatGPT自体の情報力が不十分で、真実への理解度が足らず、偽情報を拡散してしまうリスクがあると懸念の声も上がっています。
そんなAIによって書かれた文章を見破ることのできる技術を持つイスラエルのスタートアップ企業についての記事をご紹介します。

AIが書いた文章を見破るイスラエルのスタートアップ

Google社が12,000人の従業員の解雇を発表したまさにその日、Calcalist社のライターであるOmer Kabir氏はとある実験を行いました。OpenAIの大ヒットチャットボットChatGPTにログインし、GoogleのCEOから従業員へのレイオフを知らせる手紙を書くよう依頼したのです。
その結果を本物のCEO Sundar Pichai氏からの手紙の隣に置き、同僚や不特定多数の人に、どちらの文章が人間によって書かれ、どちらが機械によって書かれたかを予想してもらいました。
企業の広報担当者の文章が一般的であることを示すかのように、彼らは皆、AIが生成したChatGPTの文章を、迷うことなく人間が書いたものだと選びました。しかし、ニューヨークとイスラエルのキリヤット・シュモナに研究開発センターを持つイスラエルのスタートアップ企業である、Copyleaks社が開発したオンラインツールだけは、”高い確率でAI（人工知能）が書いた “と判断したのです。

Copyleaks社の創業者兼CEOのAlon Yamin氏は、人工知能が作成したテキストを認識する機能を自社のコピー防止システムに統合して以来、新しい技術開発に対処するための強力なツールであることがすでに証明されており、一部の人々が人工知能テキストにどの程度依存しているのかを明らかにするのに役立っていると述べています。

Yamin氏は「ここ数週間、コンテンツのAI検出を作動させ、人工知能を使ってコンテンツを書いている学生の割合を調査しました。ChatGPTが出たばかりにも関わらず、約1カ月で、システムに提出された何十万というコンテンツの10％以上にAIで作成された文章が含まれていました。これからもデータは増え続けるでしょう。この数字には非常に驚いています」とCalcalist社のインタビューに答えています。

ChatGPTは、医学や会計学などの資格試験に合格したり、MBAの入学試験に高得点で合格したりできるレベルの、知的で有益な文章を生成する能力があるため、今日の学習プロセスの中心的ツールである学術論文の時代が終わったのではないかという懸念があります。
Yamin氏は、Copyleaks社が提供するソリューションがこの危機にうまく対処していると考えており、「学生はコンテンツの書き方を知る必要があり、これは世界から消えることのない重要なスキルですが、これらのツールをどのように扱うかを解読するプロセスがあります」と語っています。

ChatGPTの出現にも油断はなかったとYamin氏は言います。
「すでに数カ月前からこの展開は見えており、リスクを軽減できる技術の開発に躍起になっていました。
ChatGPTを利用するメリットはたくさんありますが、ユーザーとしては、文章が人間によって書かれたのか、AIによって書かれたのかわかりません。私たちの技術は、それがどちらであるかを認識する方法を知っています。
人がその違いを認識するのは難しいかもしれませんが、結局のところAIシステムは、統計的な観点から見ると違うように見える書き方をしているのです。私たちのような技術が識別方法を知っていて、それをもとに『人間が書いたものではないコンテンツだ』と判断できるAIの断片が残っているのです。

結局はAIが作ったものであってもテキストであり、私たちは常にテキストコンテンツの分析に取り組んでいるのです。やらなければならない変更や開発はたくさんありましたが、既存のインフラをベースにできるような共通部分もたくさんありました。」

「現在、私たちはテスト対象のテキストがAIによって書かれたものかどうかを、すべてのコンテンツについて99％以上の確率で当てることができています。これは、テキストにAIによって書かれたコンテンツが含まれているかどうかを意味するだけで、テキストのどの部分がAIによって作成されたかを詳しく説明するものではありません。

今後、段落や文章に基づく識別を可能にするアップデートを開始する予定です。AIが書いたものとそうでないものを文や段落レベルで知ることができるようになり、それぞれの文に信頼度のパーセンテージを付ける予定です。今は99％確実なものだけを提示しています。」と自社サービスに対する自信を述べています。

当団体について

日本とイスラエルを結ぶインキュベーション支援事業をワンストップにて提供しております。
スタートアップやベンチャー企業、また、当研究所からしかご紹介することが出来ないビッグプロジェクトのマッチング、紹介、参画募集や代理店募集など、すべて直付の紹介を行っております。

当団体からご紹介できるセキュリティサービス一覧はこちらから