15.2 C
Tokyo
2024年 4月 12日 金曜日

スナック、AI安全研究所を発表 先進技術開発のモラトリアムが求められる中

Must read

イギリス

リシ・スナックが「世界初」の英国AI安全研究所の設立を発表。

来週の世界的な サミット AIの安全性に関して、首相は、研究所が新しいタイプのAIを、誤情報の生成から存亡の危機まで、さまざまなリスクについてテストすると述べた。

この組織は、「AIの安全性に関する世界の知識を向上させる」ことを目的としている。

「この組織は、新しいタイプのAIを注意深く調査、評価、テストすることで、それぞれの新しいモデルがどのような能力を持つのかを理解できるようにする」と、スナックは一流の科学者で構成される王立協会でのスピーチで述べた。

研究所は「偏見や誤った情報といった社会的な害から、最も極端なリスクまで、あらゆるリスクを調査する」だろう。

AIの安全性については、昨年11月に自然言語処理ツールが開発され、この技術が言論の主流に躍り出て以来、激しい議論が続いている。 ChatGPT.

それによると 最新のデータによると、ChatGPTには現在1億人以上のユーザーがおり、ウェブサイトは毎月10億人の訪問者を生み出しています。

しかし、3月にイタリア が発表した。 これは、人気の人工知能チャットボットに対してこのような措置を取る最初の西側諸国である。

人工知能システムの急速な発展に対する懸念は、億万長者であるテスラや ツイッター ボス、イーロン・マスクが数百人の専門家と共に強力なAIシステムの進化に懸念を表明。

フューチャー・オブ・ライフ・インスティテュート(Future of Life Institute)が発表した書簡では、以下のようなことが述べられている。 懸念 AIの進歩に対する懸念が表明された:「AIは、その効果が肯定的なものであり、そのリスクが管理可能なものであると確信できてから開発されるべきである。

AIの利点を強く主張するスナックは、これまでAIの開発に対してかなり寛容なアプローチを支持してきた。

3月、スナック政府は 白書 この技術に対するスタンスを概説している。

AIを開発する際には、法律を制定するのではなく、5つの「原則」に従うことを企業に義務づける準備を進めているという。

その後、個々の規制当局が規則や慣行を策定することになる。

そして今日、首相は「強力なモデルの開発を一時停止することは実現不可能だ」と主張し、こうした見解を二転三転させた。

「現実的でもなければ、強制力もないと思う。原則的な問題として、英国は当然のことながら、イノベーションがもたらすあらゆる利益のために、イノベーションを奨励してきた経済社会であった。それが正しいアプローチだと思います。

政府がAIの安全性に関する国際協力の手段になることを期待している安全研究所のプロトタイプは、最先端のAIモデルの安全性を精査している英国のフロンティアAIタスクフォースという形ですでに存在しており、今年設立された。

イギリス 人工知能
グーグル・ディープマインドのチーフ、デミス・ハサビスは、AIのリスクは気候危機と同様に深刻に扱われるべきだと考えている。ウィキメディア・コモンズ

一方、この技術の最近の応用は、画期的な科学と医学の進歩にもつながっている。

例えば、研究者たちは を開発した。 医師が癌を発見するのに役立つかもしれない人工知能(AI)システムを開発した。

NHS全体の診断と治療におけるAI技術の使用は、ますます頻繁になってきている。先月、英国政府は が発表した。 2100万ポンドがNHS全体のAI開発に投資される。

2023年末までに完全に利用可能になるこの資金により、NHSトラストは病院全体で最も有望なAIツールの展開を加速させ、今度の冬の患者の治療に役立てることができる。

バッキンガムのブレッチリー・パークで開催されるAIサミット、 目的 AIのリスク、特に開発のフロンティアにおけるリスクを検討し、国際的に協調した行動を通じて、それらをどのように軽減できるかを議論する。

しかし今週初め、23人の技術専門家が署名した文書が発表された。 主張 AIシステムを安全にする方法を理解する前に、より強力なAIシステムを追求することは「まったく無謀」である。

そして今日、スナック氏は、中国がサミットに出席するかどうかはまだ不明だと述べた。北京はテクノロジー企業幹部や専門家、その他の世界的リーダーたちとともに出席するよう招待を受けていたにもかかわらず、である。

首相は、中国当局者が参加するかどうか「100%確実」とは言えないと述べた。

サナック首相の前任者であるリズ・トラス氏は木曜日、中国側の出席をめぐる圧力に拍車をかけ、首相に招待を取り消すよう求め、北京はテクノロジーを使って「自由と民主主義」を攻撃していると警告した。

引用元へ

- Advertisement -spot_img

More articles

- Advertisement -spot_img

Latest article