当ウェブサイトでは、お客様のウェブ体験向上のためクッキーを使用します。また、広告と分析の用途でサードパーティークッキーにも情報を提供しています。詳細は プライバシーポリシー をご参照ください。
Accept
DRONE
  • DRONE
  • MOBILITY
  • SPACE
  • ROBOTICS
  • 特集
  • コラム
  • ニュース
  • ABOUT US
Reading: NVIDIAのNeMo Guardrails、開発者によるAIチャットボットへのガードレール追加を支援
Share
DRONE
  • DRONE
  • MOBILITY
  • SPACE
  • ROBOTICS
  • 特集
  • コラム
  • ニュース
  • ABOUT US
検索
  • DRONE
  • MOBILITY
  • SPACE
  • ROBOTICS
  • 特集
  • コラム
  • ニュース
  • ABOUT US
Follow US
© 2013-2022 DRONE. All Rights Reserved.
ニュース

NVIDIAのNeMo Guardrails、開発者によるAIチャットボットへのガードレール追加を支援

NVIDIAは、オープンソースソフトウェア「NeMo Guardrails」が開発者によるAIチャットボットへのガードレール追加を支援したと発表した

2023年4月27日
230427_NemoGuardrails_top
SHARE

この新たに公開されたオープンソースソフトウェアは、開発者がジェネレーティブAIアプリケーションを指導し、軌道に乗った優れたテキストの応答を作成するのに役立つという。

- Advertisement -
Contents
強力なモデル、強固なレール使い慣れたツールとの連携オープンソースで提供、NVIDIAからも入手可能コミュニティの継続的な取り組み

NeMo Guardrailsにより、企業は大規模言語モデルで構築されたアプリケーションを、自社の安全およびセキュリティ要件に沿った形で維持することが可能になるという。

NeMo Guardrailsは、大規模言語モデル(LLM)を搭載したスマートアプリケーションの正確性、適切性、文脈の整合性、安全性の確保をサポートする。このソフトウェアには、テキストを生成するAIアプリケーションに安全性を付加するために企業が必要とするすべてのコード、サンプル コード、そしてドキュメントが含まれている。

多くの産業がこれらのAIアプリケーションを支える強力なエンジンであるLLMの採用が進んでいる。LLMは、顧客の質問に答えたり、長い文書を要約したりする。さらにはソフトウェアを書いたり、薬の設計を加速させたりしているという。

- Advertisement -

NeMo Guardrailsは、この新しいクラスのAI搭載アプリケーションの安全性を保つために、ユーザーを支援するように設計されている。

強力なモデル、強固なレール

ジェネレーティブAIにおける安全性は、業界全体の懸念事項だという。NVIDIAは、OpenAIのChatGPTのようなすべてのLLMで動作できるようにNeMo Guardrailsを設計。このソフトウェアにより、開発者はLLMを搭載したアプリケーションが安全で、企業の専門領域内にとどまるように指導できるという。

NeMo Guardrailsは、開発者が以下の3種類のガードレール(境界)を設定できる。

  • 話題のガードレール:
    アプリが望ましくない領域の話題に逸脱してしまうことを防ぐ。例えば、カスタマーサービスが天気に関する質問に答えないようにする
  • 安全性ガードレール:
    アプリが正確で適切な情報で応答することを保証する。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できる
  • セキュリティガードレール:
    安全性が確認されている外部のサードパーティアプリケーションとのみ接続するよう制限できる。

事実上すべてのソフトウェア開発者がNeMo Guardrailsを使用できるため、機械学習の専門家やデータサイエンティストでなくても、数行のコードで素早く新しいルールを作成できるという。

使い慣れたツールとの連携

NeMo Guardrailsはオープンソースなので、エンタープライズアプリの開発者が使用するすべてのツールと連携可能。例えば、LLMの性能にサードパーティのアプリケーションをプラグインするために、開発者が急速に採用しているオープンソースのツールキットであるLangChain上で実行できる。

- Advertisement -

LangChainツールキットとその名を冠したスタートアップを設立したHarrison Chase氏は、次のようにコメントしている。

Chase氏:ユーザーはLangChainのワークフローにNeMo Guardrailsを簡単に追加して、AI搭載アプリに安全な境界線を素早く設置することができます。

さらに、NeMo Guardrailsは、Zapierなどの幅広いLLM対応アプリケーションと連携できるように設計されているという。Zapierは200万社以上の企業に利用されている自動化プラットフォームであり、ユーザーがどのようにAIを業務に組み込んでいるかを知っている。

ZapierのAI担当リードプロダクトマネージャーであるReid Robinson氏は、次のようにコメントしている。

Robinson氏:安全性、セキュリティ、信頼性は、責任ある AI 開発の礎であり、これらのガードレールをAIシステムに埋め込むというNVIDIAの積極的なアプローチに期待しています。AIが頼もしく信頼できる存在である未来を築くことで、さまざまな面でより良い影響が生まれることを楽しみにしています。

オープンソースで提供、NVIDIAからも入手可能

NVIDIAは、NeMo GuardrailsをNVIDIA NeMoフレームワークに組み込んでいる。このフレームワークには、ユーザーが企業独自のデータを使って言語モデルのトレーニングとチューニングを行うために必要なすべての要素が含まれている。

NeMoフレームワークの多くは、すでにオープンソースコードとしてGitHubで公開されている。また、企業は、NVIDIA AI Enterpriseプラットフォームの一部として、完全かつサポートされたパッケージとして入手可能。

NeMoは、NVIDIA AI Foundationsの一部として、サービスとしても提供されている。独自のデータセットやドメイン知識に基づいてカスタムのジェネレーティブAIモデルを作成、実行したい企業向けのクラウドサービスとなっている。

韓国大手のモバイル事業者は、NeMoを利用してインテリジェントアシスタントを作り、すでに顧客と800万回会話をしているという。スウェーデンの研究チームは、NeMoを採用して、国内の病院、政府機関、および企業向けのテキスト機能を自動化できるLLMを作成した。

コミュニティの継続的な取り組み

ジェネレーティブAIのための優れたガードレールを構築することは難しい課題であり、AIの進化とともに多くの継続的な研究が必要だという。

NVIDIAは、数年にわたる研究の成果であるNeMo Guardrailsをオープンソース化し、開発者コミュニティの多大なエネルギーとAI業務の安全性に貢献するとしている。

ガードレールに関するコミュニティとNVIDIAの取り組みは、企業がスマートサービスを安全、プライバシー、セキュリティの要件に合致させ、イノベーションの原動力が軌道に乗るよう支援するものだという。

▶︎NVIDIA

DJI Matrice 4Tが広大な遊水地上空で活躍。DJI Dock 2も投入、ドローンによる「ヨシ焼き」残火確認 現場レポート
2025年3月21日
大林組とKDDIスマートドローン、ドローンポート「DJI Dock 2」を活用し能登半島で道路工事の作業効率化を推進
2024年11月20日
ドローン操縦スキル上達のために。DPA回転翼3級から国家資格がベスト![後編]
2024年9月30日
ドローン操縦スキル上達のために。DPA回転翼3級から国家資格がベスト![前編]
2024年9月30日
TAGGED: AI, NeMo Guardrails, NVIDIA
Kawase 2023年4月27日
Share this Article
Facebook Twitter Copy Link Print
Share
Previous Article 230427_Optimus8F1_top Oceanbotics、水中調査用ドローン「SRV-8X OPTIMUS ROV」発表。SRV-8の2倍サイズ、2.5倍の推力
Next Article KK Vol.64 問われるドローン開発の倫理[小林啓倫のドローン最前線]
- Advertisement -

最新ニュース

ドローンショー・ジャパン、ドローン・花火・音楽を統合制御する演出技術で特許取得
ドローンショー・ジャパン、ドローン・花火・音楽を統合制御する演出技術で特許取得
ニュース 2025年5月21日
幻に終わった張家界ドローン旅。だ からこそ見えた“撮る視点”の磨き方
幻に終わった張家界ドローン旅。だ からこそ見えた“撮る視点”の磨き方[田路昌也の中国・香港ドローン便り]Vol.52
コラム 田路昌也 2025年5月21日
~信号や横断歩道も自動認識でスムーズにお届け~自動走行ロボットによる「7NOW」の屋外配送開始
ニュース 2025年5月20日
次世代のAI飛行カメラがついに実現。 ZERO ZERO ROBOTICS、「HOVERAir X1 PRO/PROMAX」、日本で発売開始
次世代のAI飛行カメラがついに実現。 ZERO ZERO ROBOTICS、「HOVERAir X1 PRO/PROMAX」を日本で発売開始
ニュース 2025年5月20日
250520_Walking-the-Sky_top
DJIの技術がハイライン世界記録達成をサポート。準備から撮影までドローンが活躍
ニュース 2025年5月20日
- Advertisement -

関連記事

NVIDIA_top
ニュース

NVIDIA、米国で初めて国産AIスーパーコンピューターを製造。5000億ドル投資、AIインフラ構築へ

2025年4月15日
ニュース

リッジアイ、JAXAと地球デジタルツイン研究に向けたAIを実証

2025年3月24日
250317_Anduril_top
ニュース

Anduril、米海兵隊へ対無人航空機システムを提供。AI活用し24時間365日、自律的に脅威に対処

2025年3月17日
ニュース

ispace、EdgeCortix社と月ミッションでの最新AI活用に向けた共同開発に合意

2025年2月25日
Previous Next

DRONEとは

DRONE(https://www.drone.jp/、以下本サイト)は、ドローンやマルチコプターについての本格的な解説やおすすめ、最新情報を発信する日本初のメディアとして、「Explore the Future」をタグラインに2015年スタートしました。

2022年、時代とテクノロジーの急速な進化を押さえ、ドローンを起点に、「空飛ぶクルマ」、「自動運転」、「AI」、「ロボティクス」、「電気自動車(EV)」、「宇宙関連」など、時代を変えていく国内外のテクノロジーについて、幅広くみなさまにお伝えします。

メディアパートナー

ページ一覧

  • Home
  • DRONE
  • MOBILITY
  • SPACE
  • ROBOTICS
  • 特集
  • コラム
  • ニュース
  • ABOUT US
  • プライバシーポリシー

アーカイブ

姉妹サイト

PRONEWS(プロニュース)は、デジタル映像制作専門情報Webメディア

DRONE
Follow US

© 2013-2023 DRONE. All Rights Reserved.

Welcome Back!

Sign in to your account

Lost your password?