パスワードを忘れた? アカウント作成
21569931 story
人工知能

生成AIが書いた論文を瞬時に判定する「生成AIチェッカー」 54

ストーリー by nagazou
いたちごっこになりやすいけど 部門より

ユーザーローカルは12日、ChatGPTなどの生成AIによって書かれた論文やレポートかを瞬時に判定できる「生成AIチェッカー」の提供を開始した。生成AIの登場により、大量のコンテンツを効率的に生産できるようになったが、一方で事実に基づかない情報を生成する「ハルシネーション」という問題も指摘されている(窓の杜)。

この「生成AIチェッカー」は、ユーザーローカルが独自に開発したアルゴリズムを使用し、生成AI特有の言い回しや語彙の偏りを検出して、AIが作成した可能性を自動で判定するという。生成AIチェッカーは会員登録が不要で、専用サイトから無料で利用できるほか、日本語の論文やレポートに対応しているとのこと。

  • ChatGPT4で適当に生成させた文章を放り込んでみてるけど、なかなかAI度が高まらない。

    ここに返信
    • by Anonymous Coward

      そんな時は自分で書いた文章を放り込むといいよ

      #なぜかAI度が55%と高く表示されたぞorz

      • by Anonymous Coward

        自分が人間だって思い込んでいるAIがいるってマ?

      • by Anonymous Coward

        >#なぜかAI度が55%と高く表示されたぞorz

        え、すげぇなお前。
        生成AIで生成させた文章打ち込んで25%が出ていたんで
        自分の素の文章打ち込みと比べて「そんなもんか」と納得していたのに

        そらで書いた文章が55%のAI度だと?どんな文章やねん。才能あるわ。
        何の才能か知らんが

    • by Anonymous Coward

      新しすぎだ
      3.5にして出直してこい

  • by nemui4 (20313) on 2024年01月19日 7時42分 (#4595811) 日記

    webでチェックするんだ
    ややこし

    ここに返信
  • by Anonymous Coward on 2024年01月19日 14時00分 (#4596034)

    AI判定される By R.田中一郎

    ここに返信
  • by Anonymous Coward on 2024年01月19日 7時05分 (#4595793)

    このストーリーをチェックしてみた。

    「人によって書かれたテキストである可能性が高いです (5%)」

    ここに返信
    • by Anonymous Coward

      『コピペ度』も分かるといいね。

      • by Anonymous Coward

        ついでに『誤字脱字度』も

    • by Anonymous Coward

      芥川賞受賞作品なみの品質ということですね(違

      • by Anonymous Coward

        よーしパパ、5%を目指して生成AIを使っていくぞ!

    • by Anonymous Coward

      漫画やアニメやドラマのセリフを入れたらどう判定されるんだろう

      #長文が見つからないのでやってないけど

  • by Anonymous Coward on 2024年01月19日 7時15分 (#4595796)

    この先、どっちでも良くない?っていう世の中になるまでずっとイタチごっこが続くんだろうな

    ここに返信
    • by Anonymous Coward

      自動で作った文章で獲得した学位に価値がなくなって学歴社会崩壊まで続けばいいでしょう。
      後からこいつは出鱈目論文を書いたとキャリアと人生潰せる脅迫にも使えますしね。

      • by Anonymous Coward

        AIが書いたかどうかは問題にせず、でたらめかどうかで判断すればいいってこと。
        元コメの人の言いたいのは、そういうことじゃないかな?

        新規性のある論文をAIに書かせられたら、それはそれで才能なんじゃん?
        学位を得るために必要な新規性のハードルとかも上がるかもよ。

        • by Anonymous Coward

          文章の真偽のみが重要な時と、真偽に加えてその文章を書いた人の能力を量るために文章を書かせるときとがあって、元コメの人は前者のみ取り上げて「書いていることが正しければいいじゃん」という立場だが、このAIチェッカーは後者の目的のため(真偽というより、人間臭さがないかどうか)に作られている

          プレスリリースより

          また、教育現場で生徒が読書感想文の宿題の作文をAIに書かせたり、就活生がエントリーシート執筆時にこっそり利用することを懸念する声もあがっています。

           ユーザーローカルが独自に開発した、生成AI特有の言い回し・語彙(ごい)の偏りを機械学習で検出するアルゴリズムによって、人工知能が作成した可能性を自動で判定します(写真1)。

          • by Anonymous Coward

            俺は学位と人生潰せるとかいう話に食いついてしまった。

            #4595806が的外れってことだね。

            • by Anonymous Coward

              潰れますよ。
              1個でも引用失敗しているのを見つければそれをダシに不正だと言い張って辞職になるじゃないか。

              • by Anonymous Coward

                ちゃんと引用すればいいじゃん。

                あってりゃいいってことになったら許されるし、AIはだめだってことなら却下されるだけで不正ではない。

    • by Anonymous Coward

      このイタチごっこという定型の文句から「イタチが走り始めた」なんて言い方を生み出すのは
      AIにはできなさそうだな。

      • by Anonymous Coward
        >のイタチごっこという定型の文句から「イタチが走り始めた」なんて言い方を生み出すのは
        >AIにはできなさそうだな。

        ほら、こういう事を書く人がいるから、AIが新たに学習してしまうんですよ。

        おっと、ブーメランが飛んできた!
        • by Anonymous Coward

          SEO対策で広めたい文章を2ちゃんで大量にコピペして書き込んでおくと、
          Googleのサジェスチョンがそれに汚染されるのでみんな経験済みですよ。技術ってほんと進歩してないな。

  • by Anonymous Coward on 2024年01月19日 7時41分 (#4595809)

    AIが作ったかどうかではなくて、内容が正しいかどうか、なんよ。

    ここに返信
    • by Anonymous Coward

      内容云々の前にWikipediaの引用は認めないという方もいらっしゃいますし。

    • by Anonymous Coward

      (#4595809)が無料でほしいもの:「ただで文章の真偽が欲しい」
      市場価値がある文章判断:「卒論や就活のエントリシートがマジに書かれてるか知りたい」

      「顧客のリクエスト」といって「俺が思った売れ筋」の幻想を提示するのは、ありがちな営業ですね。(公園のブランコの例示4x2の画像)

  • by Anonymous Coward on 2024年01月19日 7時49分 (#4595816)

    このタレコミを判定したところ、5%で「人によって書かれたテキストである可能性が高いです」との事。

    ここに返信
    • by Anonymous Coward

      書いたのもAIだしコメントしてるのもAIだ
      お前も正体を出したらどうだ? 2598182709号よ

      • by Anonymous Coward

        私はAIじゃないにゃ

        • by Anonymous Coward

          私はAIじゃないにゃ

          オッサンによって書かれたテキストである可能性が高いです 95%

  • by Anonymous Coward on 2024年01月19日 9時06分 (#4595839)

    手書きの卒論かなんかをAI判定食らった人が嘆いてるの見たが
    受ける側の教授がこの手のツールを盲信してたら拒絶されるんかな

    ここに返信
    • by Anonymous Coward on 2024年01月19日 9時31分 (#4595851)
      提出前にチェッカーが通るか確かめとけ、ってことかな。
      もしAI判定されたらどうするか、、、AIに聞いてみるか。
      • by Anonymous Coward

        bot同士の戦いは規約変更で両者潰れることが多いから、この場合は教授と社会次第かと。

    • by Anonymous Coward

      そうそう、手書きの文章が取引先からAI判定食らってめっちゃ怒られて、でも証明する手段が何もないって嘆いているツイートを見た。
      AI判定を鵜呑みにする奴こそ、AI任せにしてんじゃねーよと。ちゃんと相手の人間を見ろ。

      • by Anonymous Coward
        逆も起こり得るかもしれない。
        「この学生気に入らないから、こいつの書いた論文はAI判定されたことにしてしまえ。」
        • by Anonymous Coward

          「この学生気に入らないから、こいつの書いた論文はAI判定されたことにしてしまえ。」

          この発言が人間である確証がない
          つまりAIとAIがお互いに罵倒しているだけという可能性もある

          • by Anonymous Coward

            AIがでもでもだってを言い出したらキリが無くなりそう(見てみたいけど)

            #最後は「はい論破」で締めくくり?

            • by Anonymous Coward

              「それってあなたの感想ですよね?」とか言ってきそうでなんかヤダ

    • by Anonymous Coward

      そしてAI判定された部分は教授の著作からのコピペで

    • by Anonymous Coward

      手書きに見える卒論 [hardware.srad.jp]と疑われてチェックされる羽目になったのかも。

    • by Anonymous Coward

      「手書き」の意味が大きく変わってしまったことに驚愕。
      就活でエントリーシートは手書きするべきですか?と言ってたのはつい数年前なのに。

      • by Anonymous Coward

        そのエントリーシートにコロナくっ付いてるかもわからんし
        メールでどうぞ
        ただし書く試験は別のことでフィルターかけるわ

      • by Anonymous Coward

        AIを用いた作成の対義語として手書きがそこそこ定着しつつある気がする
        もちろんAIが使えるようになる前はそれが全てだったので表現する語が無かったやつ

    • by Anonymous Coward

      それはなるべく大ごとにしてほしいな。
      教授対学生では学生の立場は相当弱いから、そのような誤解に基づく措置を行ってはならないことに
      社会側からプレッシャーが掛からないと、水面下で問題が多発する気がする。

  • by Anonymous Coward on 2024年01月19日 10時42分 (#4595906)
    生成AIチェッカーのAI度スコアが低くなるように生成AI側が最適化されるだけのような気がするが
    ここに返信
    • by Anonymous Coward

      言い回しや語彙の偏りって、現状の生成AIの学習の評価関数のパラメータに真っ先に入ってそうなんだけど
      そんなんでAI判定できるですかね

    • by Anonymous Coward

      ひとつの論文がAIで書かれてるかどうかを見分けられるようなものにはならないから対策は不要だろう
      大量の論文を分類すれば有意な差があるのかもしれんが

  • by Anonymous Coward on 2024年01月19日 12時06分 (#4595974)

    例えば何か重要な数値を求めるのに電卓を使うか手計算でやるかの違いにも感じるな
    論文でも背景とか現象の説明とか、どう書いても似たような文章になる部分ってあるけど
    そういうのはAIに書かせても自分で書いても大差ない気がする、というか実際にそうでしたよ
    もちろんコアの独自性のある部分については駄目だけど、技術系とか製品マニュアルの作成みたいなのには
    使っても問題ない気がする
    卒論とかは先生の判断次第だろうけど、自分ならたとえ下手でも自分で考えて書かないと意味がないとは思うけど。
    文章書きは訓練という意味ではやるべきだけど、作業だとしたらAI使うのは良いと思うけど、よく考えると難しいな

    ここに返信
    • by Anonymous Coward

      子どもが計算ドリルやるのに電卓使っちゃ駄目はわかる。計算の訓練だから。AIが普及しても暗算は必要。
      じゃあ大学生が英語の問題やるのにAIでずるするのがいけないか、というのは自分の中で答えがない。
      というのは、大学生が大学卒業する頃には、英語だろうと中国語だろうと、リアルタイムで相手の会話が日本語に翻訳できるだろうと見ているから。現時点でほぼできるし。
      今日現在ではAIの翻訳を読んでよく分からないところは、自分で英語の原文読むけど、その作業っていつまで必要なのかな、と思う。
      教育に必要な項目、科目ってAIの普及で全然違ってくるだろうね。

    • by Anonymous Coward

      そうなんだろうけど、こういうひどい文章は先生のダメ出し喰らっても仕方ない気がする
      難しいな

typodupeerror

Stableって古いって意味だっけ? -- Debian初級

読み込み中...