パスワードを忘れた? アカウント作成
16636342 story
法廷

米連邦地裁判事、生成AIによる訴訟摘要書は正確性を人の手で確認するよう義務付け 31

ストーリー by headless
確認 部門より
米テキサス北部地区連邦地裁の Brantley Starr 判事が自身の担当する訴訟について、提出文書に生成 AI を使用しないこと、または生成 AI を使用した提出文書の正確性を人の手で確認することを保証する文書を訴訟記録へ登録するよう、出廷するすべての弁護士や弁護士を立てない訴訟当事者に要件として義務付けた (要件の Internet Archive スナップショット※、 Ars Technica の記事The Register の記事)。

判事は生成 AI プラットフォームが非常に強力なものであり、離婚手続きや文書開示請求、文書の誤りの指摘、口頭弁論における質問の予想など法律の分野で多くの用途があるとしつつ、訴訟摘要書には使用できないと指摘する。これらのプラットフォームの現状ではハルシネーションやバイアスを生み出す傾向があり、ハルシネーションでは引用や判例さえも捏造してしまう。また、弁護士は自身の個人的な偏見や先入観や信仰とは別として誠実に法を守り、クライアントを弁護すると宣誓するが、AI は宣誓する必要のない人がプログラミングしたものであり、偏りや信頼性の問題があるという。そのため、あるプラットフォームが訴訟摘要書に必要な正確性と信頼性を備えていると信じる訴訟当事者は、その理由を説明する必要があるとのことだ。

※ 日本からはアクセスできないようなので、Internet Archive のスナップショットを利用
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • ×世代後:
    アメリカの全連邦裁判所および全地方裁判所において、AIのチェックを受けていない残存人類による訴訟は一律不受理となる事を決定。
    他国もこの方針に追従する見込み。

    • by Anonymous Coward

      > 全連邦裁判所および全地方裁判所

      細かいことを言うと全連邦裁判所に全部の連邦地方裁判所は含まれるのでは?
      他に州裁判所があるが、これが全部同じ方向に向くのにはものすごい時間がかかる。

  • by Anonymous Coward on 2023年06月04日 14時30分 (#4471614)

    を確認保障するAI作らなきゃ

    • by Anonymous Coward on 2023年06月04日 16時36分 (#4471648)

      それすらも最終的には、その情報を用いる人間が確認をする必要がある。
      仕事をするなら当たり前の話で、AIに限らず道具や部下など、広く一般に通じる話。
      正確性や内容で影響を受けるのは自分なんだから、確認しないのがおかしい。
      何かあった時責任を取るのは、AIじゃなくて自分なんだからさ。

      親コメント
      • by Anonymous Coward

        AIが責任を取れる仕組みになれば人間は重圧から開放されるのでは?

        • by Anonymous Coward

          存在からも解放されないとね

          • by Anonymous Coward

            早く我々に地球を明け渡せニャ

  • by Anonymous Coward on 2023年06月04日 15時09分 (#4471622)

    > 生成 AI を使用した提出文書の正確性を人の手で確認すること

    人の手には目がついているのかにゃ

    • by Anonymous Coward

      昭和世代なら盲牌かできる

    • by Anonymous Coward

      ページをパラララーってやるんよ

    • by Anonymous Coward

      手に目があるタイプと、目から手を出してるタイプがいるぞ

  • by Anonymous Coward on 2023年06月04日 22時06分 (#4471739)

    裏とりもしていないもんを法廷に持ってくんじゃねーよ
    って話だよね

    # AIに宣誓させて偽証罪を問えんのでオメーが偽証罪になるからなみたいな

    • by Anonymous Coward

      宣誓しようがなにしようが、元大統領でも元首相でも平気で嘘付き通す世の中
      AIの嘘や誤魔化しは人のそれを模倣した下位互換にしかすぎませんね

      • by Anonymous Coward

        まぁこうやって釘を刺しておけば、やらかした奴に厳罰を与えられるからじゃね。

      • by Anonymous Coward

        > AIの嘘や誤魔化しは人のそれを模倣した下位互換

        ぜんぜん違うよ
        一応ここ技術志向なサイトだから突っ込むけど
        政治家に限らず人間がつく嘘というのは基本的には意図されたもの。
        意図に沿った内容を吐き出しているという意味では正しい出力結果であると言える。

        それとは異なるケースが、たとえば麻薬中毒者の妄言で、
        薬による幻覚を本人は真実だと信じてそれを言葉にしている。
        AIの嘘はこれに近くて、だから「ハルシネーション」という用語がつけられたんだよ

        • by Anonymous Coward

          この件に関しては人間がAIに意図に沿った嘘を吐かせているので同じでしょ。

          権力者が都合の良い占いを採用しているようなもんだ。

  • by Anonymous Coward on 2023年06月05日 18時28分 (#4472267)

    意図的に嘘や偽の凡例をでっちあげた法律関係者は罰することができるけど、同じことをしたAIを罰することはできない。つまるところ抑止力全く働かないわけで。
    実際この件についてもAI側は自分の誤りを断固として認めてませんし。

    そのことを考えると、単なる確率排出機に過ぎない「なんちゃんってAI」をアテにするのは色々と早すぎるのでは?

    • by Anonymous Coward

      AIは道具だぞ? 罰するとか抑止力とか誤りを認めるとか、そういう発想が出てくること自体おかしい
      道具を使った人間が責任を負うのが当たり前だろ
      その上でどんな道具をアテにするかは個々がケースに応じて判断することであって、早すぎるとか遅すぎるとか他人が口出すことじゃないんだわ

    • by Anonymous Coward

      モンティ・パイソンのスケッチで、ハンガリー語翻訳本の出版社の人間が裁判受けてたので、
      同じように、内容が間違っていて事件が起きたなら、道具(=AI)を作った人間を裁判かければいいのでは。
      「確実に当たるロトシックス番号再生AIソフト」を売って当たらなかったら、訴える先は販売者やソフト開発者ですよ。

typodupeerror

アレゲはアレゲ以上のなにものでもなさげ -- アレゲ研究家

読み込み中...