本文へ
ハクソク

世界を動かす技術を、日本語で。

OpenAIが別の重要な証拠を盗んだ可能性がある

元記事: 原文(twitter.com)

概要

  • OpenAIがAstraの訓練データとして未公開の数学的議論を使用した疑惑
  • Andreas Thomが証拠を提示し、重大な知的財産侵害の可能性を指摘
  • Gromovのsoficity予想に関連する未発表の研究が利用された疑い
  • 他の著名数学者からも同様の告発が相次ぐ状況
  • AIによる発見ではなく「人間の発見の盗用」という深刻な問題提起

OpenAIによるAstra訓練データ盗用疑惑

  • Mastodon上で Andreas Thom が詳細な告発を投稿
  • Thomと Gábor Kun が協力していた Gromovのsoficity予想 に関する会話が訓練データとして使用された疑い
  • OpenAIが後に Astra が解決したと発表した10の問題の1つがこの予想
  • Thomは分野の第一人者であり、20年以上この問題に取り組んできた数学者
  • 未発表の人間の研究成果がモデルに吸収され、AIの成果として発表された可能性
  • これは単なる「帰属の問題」ではなく、知的財産権と研究倫理の根幹に関わる重大な問題

他の数学者からの追加告発

  • Levent Alpöge や Tristan Buckmaster など他の著名数学者も同様の疑惑を指摘
  • これらの事例が事実であれば、単発の事件ではなく「科学史上最大級の知的スキャンダル」へ発展する恐れ
  • AIが新しい数学を発見しているのではなく、「人間の発見を盗用している」との批判
  • 学術界全体での透明性と説明責任の必要性が高まる状況

今後の影響と課題

  • AIモデルの訓練データの透明性確保という課題
  • 未発表研究やプライベートな学術的議論の保護強化の必要性
  • AIによる「発見」の定義と、研究者の権利保護の再検討
  • 科学的発表とAI倫理の新たなガイドライン策定が急務

提供: ハクソク · 要約更新:

AIによる日本語要約です。内容は原文とあわせてご確認ください。

Hacker Newsの議論を読む

Hackerたちの意見

これはかなり弱い主張だね。彼らが提示している証拠は「どこかの誰かが、ある時点でAIとそのトピックについて話し合ったと言っている」だけだし。証拠があるとは言っていないし、ただ作業をしていたってだけなんだよね。

└

AIが完全に自力でこれを発見するのと、関連データをつなげて仕上げの部分を作るのでは、かなりの違いがあると思う。もしかしたらこの主張は強すぎるかもしれないけど、もしその一部が本当なら、OpenAIがしている主張も強すぎることになる。個人的には、LLMがどう機能するかっていうと、ユニークな作品を生み出すことはできないけど、大量のデータをキャッチして点をつなぐのは得意って感じだね。

└

AIは、人間のトレーディングデータがある問題だけを解決しているように見える…もしこれが人間主導でなかったら、その問題の中に他の問題が見えるはずだと思う。スペースは、チャットデータがあるものだけじゃなくて、他の問題も解決している。

└

数学の多くは非常に専門的で、特定の分野の他の専門家がその数学的アイデアに触れることはほとんどない。大半はまだ出版された文献にも載ってないしね。AIがチャットログで議論されていたこういう高度に専門的なツールを使うことが疑わしいって言うのは、全然無理な話じゃないよ。

クラウドサービスに頼るのは大きなリスクだよ。これらのLLMクラウド製品にデータを提供する前に、もう一度考えた方がいい。もしそれをあなたの製品や開発、ワークフローの基本的な部分に組み込むなら、価格や条件が変わる瞬間に備えておくべきだね。

元の投稿 https://mathstodon.xyz/@andreasthom/117240535270608201 https://mathstodon.xyz/@andreasthom/117240536885387540 https://mathstodon.xyz/@andreasthom/117240537520615623

└

あなたが言うことはすべて、あなたに対してトレーニングされる可能性があるよ。

└

笑、Twitterなしでは全然見てもらえなかったわ。

└

元の投稿が誰でも読めるオープンなサイトに載ってるのに、HNの投稿はアカウント作らないと見れない怪しいサイトにリンクしてるのがちょっと悲しい。オープンウェブの精神がこのコミュニティにとってもっと大事だと思ってたのに。

いま、オープンに研究を進めていて、GitHubに日付を付けているから、もしAIラボが私の正確な作品を再発見したと言ったら、AIが私の作品を使ったか、トレーニングされたことが明らかになるだろうね。似たような状況にいる人は、数学が終わっているけどプロセスがまだの自分の既存の作品の日付をどうつけるか考えているんじゃないかな。

└

それがarxivの目的なんだよね。以前からレビューのプロセスで同じ問題に直面してきたけど、特に具体的なことはないよ。

└

でも、それじゃ盗まれるのを防げないよね。結局、後からの戦いが楽になるだけだし。

Hacker Newsで議論の続きを見る

同じ出典の記事