DRONE
  • DRONE
  • MOBILITY
  • SPACE
  • ROBOTICS
  • 特集
  • コラム
  • ニュース
  • ABOUT US
Reading: NVIDIAのNeMo Guardrails、開発者によるAIチャットボットへのガードレール追加を支援
Share
DRONE
  • DRONE
  • MOBILITY
  • SPACE
  • ROBOTICS
  • 特集
  • コラム
  • ニュース
  • ABOUT US
検索
  • DRONE
  • MOBILITY
  • SPACE
  • ROBOTICS
  • 特集
  • コラム
  • ニュース
  • ABOUT US
Follow US
© 2013-2022 DRONE. All Rights Reserved.
ニュース

NVIDIAのNeMo Guardrails、開発者によるAIチャットボットへのガードレール追加を支援

NVIDIAは、オープンソースソフトウェア「NeMo Guardrails」が開発者によるAIチャットボットへのガードレール追加を支援したと発表した

2023年4月27日
230427_NemoGuardrails_top
SHARE

この新たに公開されたオープンソースソフトウェアは、開発者がジェネレーティブAIアプリケーションを指導し、軌道に乗った優れたテキストの応答を作成するのに役立つという。

- Advertisement -
Contents
強力なモデル、強固なレール使い慣れたツールとの連携オープンソースで提供、NVIDIAからも入手可能コミュニティの継続的な取り組み

NeMo Guardrailsにより、企業は大規模言語モデルで構築されたアプリケーションを、自社の安全およびセキュリティ要件に沿った形で維持することが可能になるという。

NeMo Guardrailsは、大規模言語モデル(LLM)を搭載したスマートアプリケーションの正確性、適切性、文脈の整合性、安全性の確保をサポートする。このソフトウェアには、テキストを生成するAIアプリケーションに安全性を付加するために企業が必要とするすべてのコード、サンプル コード、そしてドキュメントが含まれている。

多くの産業がこれらのAIアプリケーションを支える強力なエンジンであるLLMの採用が進んでいる。LLMは、顧客の質問に答えたり、長い文書を要約したりする。さらにはソフトウェアを書いたり、薬の設計を加速させたりしているという。

- Advertisement -

NeMo Guardrailsは、この新しいクラスのAI搭載アプリケーションの安全性を保つために、ユーザーを支援するように設計されている。

強力なモデル、強固なレール

ジェネレーティブAIにおける安全性は、業界全体の懸念事項だという。NVIDIAは、OpenAIのChatGPTのようなすべてのLLMで動作できるようにNeMo Guardrailsを設計。このソフトウェアにより、開発者はLLMを搭載したアプリケーションが安全で、企業の専門領域内にとどまるように指導できるという。

NeMo Guardrailsは、開発者が以下の3種類のガードレール(境界)を設定できる。

  • 話題のガードレール:
    アプリが望ましくない領域の話題に逸脱してしまうことを防ぐ。例えば、カスタマーサービスが天気に関する質問に答えないようにする
  • 安全性ガードレール:
    アプリが正確で適切な情報で応答することを保証する。不要な言葉をフィルタリングし、信頼できる情報源のみを参照するように設定できる
  • セキュリティガードレール:
    安全性が確認されている外部のサードパーティアプリケーションとのみ接続するよう制限できる。

事実上すべてのソフトウェア開発者がNeMo Guardrailsを使用できるため、機械学習の専門家やデータサイエンティストでなくても、数行のコードで素早く新しいルールを作成できるという。

使い慣れたツールとの連携

NeMo Guardrailsはオープンソースなので、エンタープライズアプリの開発者が使用するすべてのツールと連携可能。例えば、LLMの性能にサードパーティのアプリケーションをプラグインするために、開発者が急速に採用しているオープンソースのツールキットであるLangChain上で実行できる。

- Advertisement -

LangChainツールキットとその名を冠したスタートアップを設立したHarrison Chase氏は、次のようにコメントしている。

Chase氏:ユーザーはLangChainのワークフローにNeMo Guardrailsを簡単に追加して、AI搭載アプリに安全な境界線を素早く設置することができます。

さらに、NeMo Guardrailsは、Zapierなどの幅広いLLM対応アプリケーションと連携できるように設計されているという。Zapierは200万社以上の企業に利用されている自動化プラットフォームであり、ユーザーがどのようにAIを業務に組み込んでいるかを知っている。

ZapierのAI担当リードプロダクトマネージャーであるReid Robinson氏は、次のようにコメントしている。

Robinson氏:安全性、セキュリティ、信頼性は、責任ある AI 開発の礎であり、これらのガードレールをAIシステムに埋め込むというNVIDIAの積極的なアプローチに期待しています。AIが頼もしく信頼できる存在である未来を築くことで、さまざまな面でより良い影響が生まれることを楽しみにしています。

オープンソースで提供、NVIDIAからも入手可能

NVIDIAは、NeMo GuardrailsをNVIDIA NeMoフレームワークに組み込んでいる。このフレームワークには、ユーザーが企業独自のデータを使って言語モデルのトレーニングとチューニングを行うために必要なすべての要素が含まれている。

NeMoフレームワークの多くは、すでにオープンソースコードとしてGitHubで公開されている。また、企業は、NVIDIA AI Enterpriseプラットフォームの一部として、完全かつサポートされたパッケージとして入手可能。

NeMoは、NVIDIA AI Foundationsの一部として、サービスとしても提供されている。独自のデータセットやドメイン知識に基づいてカスタムのジェネレーティブAIモデルを作成、実行したい企業向けのクラウドサービスとなっている。

韓国大手のモバイル事業者は、NeMoを利用してインテリジェントアシスタントを作り、すでに顧客と800万回会話をしているという。スウェーデンの研究チームは、NeMoを採用して、国内の病院、政府機関、および企業向けのテキスト機能を自動化できるLLMを作成した。

コミュニティの継続的な取り組み

ジェネレーティブAIのための優れたガードレールを構築することは難しい課題であり、AIの進化とともに多くの継続的な研究が必要だという。

NVIDIAは、数年にわたる研究の成果であるNeMo Guardrailsをオープンソース化し、開発者コミュニティの多大なエネルギーとAI業務の安全性に貢献するとしている。

ガードレールに関するコミュニティとNVIDIAの取り組みは、企業がスマートサービスを安全、プライバシー、セキュリティの要件に合致させ、イノベーションの原動力が軌道に乗るよう支援するものだという。

▶︎NVIDIA

DJI Matrice 4Tが広大な遊水地上空で活躍。DJI Dock 2も投入、ドローンによる「ヨシ焼き」残火確認 現場レポート
2025年3月21日
大林組とKDDIスマートドローン、ドローンポート「DJI Dock 2」を活用し能登半島で道路工事の作業効率化を推進
2024年11月20日
ドローン操縦スキル上達のために。DPA回転翼3級から国家資格がベスト![後編]
2024年9月30日
ドローン操縦スキル上達のために。DPA回転翼3級から国家資格がベスト![前編]
2024年9月30日
TAGGED: AI, NeMo Guardrails, NVIDIA
Kawase 2023年4月27日
Share this Article
Facebook Twitter Copy Link Print
Share
Previous Article 230427_Optimus8F1_top Oceanbotics、水中調査用ドローン「SRV-8X OPTIMUS ROV」発表。SRV-8の2倍サイズ、2.5倍の推力
Next Article KK Vol.64 問われるドローン開発の倫理[小林啓倫のドローン最前線]
- Advertisement -

最新ニュース

地球の磁気バリアの破れを可視化する
千葉大学ら、地球の磁気バリアの破れを可視化する
ニュース 2025年7月15日
250714_Co-Creation_with_Network_top
中国電力ネットワーク、インフラ点検ノウハウ活用したドローンショーサービスの実証を開始。DSJ社と連携
ニュース 2025年7月15日
「再帰性反射可変QRコードのライフジャケット」南海トラフ大地震で人命救助に役立つ!
「再帰性反射可変QRコードのライフジャケット」南海トラフ大地震で人命救助に役立つ!
ニュース 2025年7月15日
250714_Oakley_top
OakleyとAxiom Space、宇宙飛行士のための次世代バイザーシステムを発表。月面探査のために設計、地球で検証済み
ニュース 2025年7月14日
250714_ISC_top
将来宇宙輸送システム、米Ursa Major Technologie社とエンジン追加調達・共同開発で合意。日米協力で宇宙輸送を加速
ニュース 2025年7月14日
- Advertisement -

関連記事

Vantiq、複数のドローン群制御を可能に
ニュース

Vantiq、複数のドローン群制御を可能に

2025年7月10日
世界が注目!イーロン・マスク氏も反応したAIドローン対決の舞台裏で、DRONE SPORTS株式会社が技術協力・インタビュー対象に
ニュース

世界が注目!イーロン・マスク氏も反応したAIドローン対決の舞台裏で、DRONE SPORTS株式会社が技術協力・インタビュー対象に

2025年7月8日
NVIDIA_top
ニュース

NVIDIA、米国で初めて国産AIスーパーコンピューターを製造。5000億ドル投資、AIインフラ構築へ

2025年4月15日
ニュース

リッジアイ、JAXAと地球デジタルツイン研究に向けたAIを実証

2025年3月24日
Previous Next

DRONEとは

DRONE(https://www.drone.jp/、以下本サイト)は、ドローンやマルチコプターについての本格的な解説やおすすめ、最新情報を発信する日本初のメディアとして、「Explore the Future」をタグラインに2015年スタートしました。

2022年、時代とテクノロジーの急速な進化を押さえ、ドローンを起点に、「空飛ぶクルマ」、「自動運転」、「AI」、「ロボティクス」、「電気自動車(EV)」、「宇宙関連」など、時代を変えていく国内外のテクノロジーについて、幅広くみなさまにお伝えします。

メディアパートナー

ページ一覧

  • Home
  • DRONE
  • MOBILITY
  • SPACE
  • ROBOTICS
  • 特集
  • コラム
  • ニュース
  • ABOUT US
  • プライバシーポリシー

アーカイブ

姉妹サイト

PRONEWS(プロニュース)は、デジタル映像制作専門情報Webメディア

DRONE
Follow US

© 2013-2023 DRONE. All Rights Reserved.

Welcome Back!

Sign in to your account

Lost your password?