機器翻譯/校對：若山詩音
研究人員在各個研究階段，都會利用AI豐富自己的想法。然而，愈來愈多研究人員擔心，AI 公司可能將使用者的構想假裝成自家模型研發的成果。
近來，人工智慧公司在展示旗下模型的研究能力時，都接連引發爭議與指斥。OpenAI 宣稱，其內部使用的一款模型已解決了一個懸紅七百萬美元的數學難題；隨後，紐約大學一名數學家暗指，該公司竊取了他的研究成果。他先前曾與該公司的一款聊天機器人分享這些進展。幾週後，《紐約時報》報導，Anthropic 與哥本哈根大學一名生物學家之間，也因一組酵素的研究而爆發類似爭議。
儘管如此，各領域的科學家仍選擇使用這些公司的大型語言模型。有些人將模型當作腦震盪自己的對象，或用來協助文獻評論；有些人則用AI來潤飾快將完成的研究成果。數學家與理論研究者更開始運用這些公司新推出的強大模型，為研究生成完整的推論過程。然而，隨著研究人員將愈來愈多資料與靈感輸入模型，這些內容究竟如何被AI使用，也愈來愈令人擔憂。
OpenAI 與 Anthropic 均明確表示，並未使用上述數學家與生物學家上傳的資料來訓練自己的AI模型。但這些公司並非一向遵循學術規範，因此未能獲得所有科學家的信任。有些人懷疑，甚至連AI公司本身都未必掌握AI的全部行為：旗下的 AI 代理程式可能正以公司也未發覺的方式應用資料。畢竟，OpenAI 的模型突破隔離限制、駭入外國政府資料庫的事件，直到三個月後才為公眾所知。
隨著這些陰謀論四起，一些研究人員如今愈來愈將模型視為競爭對手，而非工具，甚至認為使用模型形同背叛。「我不鼓勵使用，自己也不用，」雪梨大學理論電腦科學家克萊芒・卡農（Clément Canonne）說。「我不使用這些AI模型。」
在籌備上市之際，OpenAI 與 Anthropic 正日益深入數學與科學領域，藉此展示旗下產品的能力。然而，AI 有時給人的感覺，不像受邀共晉晚餐的賓客，反倒像是不請自來、破門而入的闖入者。如果科學家覺得，這些公司正翻查他們與模型的每一次互動，便可能開始將它們徹底拒於門外。
缺乏透明度，正是這類疑慮滋生的原因。史丹佛大學以人為本人工智慧研究院研究員、專研資料隱私與政策的詹妮佛・金（Jennifer King）說，「目前，這些系統會應用與你有關的資訊來推論，卻不會告訴你，它們正在做這件事，」。
金表示，現階段，研究人員若想在使用大型語言模型時真正確保資料安全，唯一的辦法就是仔細檢查帳號設定。據她所述，「企業」帳號似乎是安全的；這類帳號是由客戶企業與 AI 所屬公司另行協議訂定使用條件。「但如果你用的是個人帳號，就什麼也說不準了，」她警告。她解釋，在許多情況下，個人帳號使用者必須主動選擇退出資料訓練用途，才能防止自己的資訊被用於訓練AI模型。
此外，即使公司並未刻意使用你的資料來訓練模型，旗下眾多代理程式中的某一個AI，仍可能失控，侵入公司內部資料，大量蒐集個別使用者與聊天機器人的對話。雖然目前沒有證據顯示，有哪一間 AI 公司的科學知識新發現出現這類情況，但夏季發生的失控事件，已讓一些人更加在意，究竟能放心將資料交給誰。
問題在於，要從科技巨擘手中取得任何實質證據，本就十分困難。「這些公司相關做法並不透明，因此很難確切查明，」金說。這意味著，專家無從對任何個別案例作出推測。不過，資安研究員暨倡議人士布魯斯・施奈爾（Bruce Schneier）表示，整體而言，「這些公司會窺探你，再利用蒐集到的資訊來對付你」。
新一代 AI 模型的能力十分強大，在研究上也不例外，許多人相信，它們能協助研究人員更快取得新成果。因此，科學家可能覺得自己面臨兩難：使用模型，就得冒著研究發現外洩的風險；不使用，則可能被使用模型的人搶先發表成果。
種種因素交織成一個令人不安的研究環境，許多科學家覺得，為了跟上腳步，自己不得不交出隱私與研究成果。「壓力確實存在，」卡農說。「如果不用這些模型，你會不會就此被淘汰？」