「そうだね [artificial intelligence] エルゼビアの最高技術責任者であるジル・ルーバー氏は、科学雑誌や医学論文の発行者として、「『捏造科学』が大幅に増加しているのを目の当たりにしており、出版界をそれから守るのが私たちの仕事だ」と警告する。
これは最近、ロンドンのブックフェアでルーバーが話した話題だ。 「それは非常に憂慮すべきことであり、人工科学が大幅に増加しているのを目の当たりにしています」と彼女は言う。
「現実ではない科学を作成し出版することには明らかに影響があります。なぜなら科学雑誌で読む内容にはある程度の信頼があるからです。その信頼が損なわれ始めたら、その時が本当の危機に陥ると私は思います。」
エルゼビアは創業約 145 年で、その間に印刷、World Wide Web を介したデジタル コンテンツ、そして今回の AI という 3 つの大きな技術的破壊を経験しました。
偽科学への警告はさておき、研究者が学術研究論文に含まれる大量の情報を理解できるよう支援する上で AI が重要な役割を果たすとルーバー氏は考えています。ルーバー氏にとって、研究を支援するために人工知能ツールを使用する主な利点の 1 つは、エルゼビアが所有する文献の全文をクエリできることです。
「AI はコンセプトを作成し、さまざまな記事をリンクできます」と彼女は言います。
AI の助けがなければ、これは通常、人間では何時間もかかり、不可能な場合もあります。
また、疑似科学に関しては、「AI は、偽の出版物や記事がジャーナルに掲載される前に、それらを見つけて阻止するのに役立ちます。」と彼女は言います。
AI により、研究者はコンテンツを探索し、そこに含まれる情報を理解し、つながりを見つけ、既存の概念を発見することができます。ルーバー氏によれば、同様に重要なことは、彼女が「ホワイトスペース」と呼ぶもの、つまり研究論文ではカバーされていない情報も明らかになることだという。
AI が登場する以前、研究者は関連する研究を見つけるためにキーワード検索を使用していました。ルーバー氏は次のように説明しています。「デジタル世界では、データのセット全体にインデックスを付けることができる非常に強力な検索アルゴリズムがありました。探している概念のキーワードを入力すると、検索エンジンがそれらのキーワードに基づいてすべての文献を検索し、その情報をキーワードのリストとして表示します。」
AI により、研究者はキーワード検索を超えて、キーワードだけでなく概念全体や隣接する概念を検索できるようになります。
これは、研究者が AI エンジンによって明らかにされた研究論文の真実性を特定するのに役立ちます。 「科学で本当に重要なのは再現性です」と彼女は言います。 「私たちは今、すべてのコンテンツを調べて、再現された研究を見つけることができるようになりました。」
誰も再現できなかった研究と比較して、研究が再現可能な論文には、より高いレベルの信頼が関連付けられています。
研究を支援するために AI を使用することには明らかに多くの利点がありますが、大規模な言語モデルが誤解を招き、誤解を招く情報を提供する可能性があるという大きなリスクがあるとルーバー氏は指摘します。偏見の危険も常に存在します。これらは、AI ツールを使用して実行できる研究の品質と完全性に直接影響します。実際、研究者が、簡単に提示できるアイデアについてさらに研究を行わず、AI ツールによって生成される出力に依存するという非常に現実的なリスクもあります。
研究者が正当な研究を分析するために AI ツールを使用している場合: 「質問をするためだけにモデルを使用している場合は、幻覚の実際のリスクがあります。しかし、一部のモデルは科学と健康の特定の分野でトレーニングされており、分野固有の質問に答えるのがうまくなってきています。」
AI に取り組む多くの人々と同様に、ルーバー氏も人間による監視の重要性を認識しています。これは、学術出版で確立されている人間による査読の監督に似ています。
エルゼビアの主な AI ツールは LeapSpace で、人による評価を通じて、さまざまな分野の専門家が質問に基づいてモデルによって生成された結果の品質と精度をテストします。ルーバー氏は、この評価では、正しい情報が収集されているかどうか、そして重要なことに、その出力が実際に有害であるかどうかを検討していると述べています。 「私たちは人間による評価を利用して、LLM とそれを使用する製品の微調整を支援し続けています」と彼は付け加えました。
振動のコーディング
エルゼビアのテクノロジー部門では、ソフトウェア開発に AI が使用されているとルーバー氏は言います。ただし、コードが運用環境にリリースされる前に、人間によるレビューが行われます。
エルゼビアがソフトウェア開発をサポートするために AI をどのように使用しているかについて説明した彼女は、「AI のおかげで作業が容易になりますが、テクノロジー チームに新たなニーズも見つかっています。新しい AI エンジニアのコンセプトが生まれています。」と述べました。
彼女は、同社がコーディングの雰囲気を奨励しており、技術的な背景のない人でもダッシュボード、Web ページ、アプリを作成できるようにしていると述べています。
ただし、ソフトウェア開発チームは振動コーディングにおいて重要な役割を果たします。 「私たちが発見したのは、これまでのことしかできないということです。その後、一部のプロセスとダッシュボードを強化するにはテクノロジー チームの介入が必要になるでしょう。」
例として、財務チームが継続的に多くのレポートを作成しているとします。 「AI ツールを使用すると、これらのレポートを作成できる新しい自動エージェント ワークフローを作成できます。しかし、これらの AI エージェントは、より生産性が高くなければなりません。セキュリティが確保されており、適切なアクセスがあり、稼働しており、コストも理解しています。そのときこそ、エンジニアが介入して本番品質に引き上げる手助けをする必要があります。」
その結果、エルゼビアは現在、財務部門に特化したソフトウェア エンジニアを抱えています。
「これは、AI を活用して仕事を改善しているビジネス分野の一部をサポートするという、私のチームにとっての新たなニーズです」と Luber 氏は付け加えます。 「しかし、そのためには依然として私たちの支援が必要です。」
振動コーディングによって必要なソフトウェア開発者の数が変わる一方で、以前は企業が専門知識を必要としていなかった場所でソフトウェア エンジニアが活用されているとルーバー氏は見ています。
「振動コーディングは本当にクールで、仕事をより良くするのに役立ちます」と彼女は言います。 「コードの書き方がわからなくても、それを使用するプロセスを作成できます。」
