金十データ5月21日、HBMに続いて、サムスン電子の今年の最優先事項は、半導体ファウンダリにおいてNVIDIAからの受注を獲得することです。業界関係者によると、サムスン電子の半導体ファウンダリ部門（DS）は、「NVIDIAの3nm製品の受注を獲得する」という目標を今年の最優先事項としています。「各部署は全力を尽くしており、英語が流暢なスタッフに対して、'Nemo'と関連する業務を現在の業務よりも優先的に行うように通知しています。」Nemoはサムスン電子の内部での顧客コードであり、NVIDIAのことを指します。（韓国FNNews）

オープンソースの会話型AIツールキットであるNVIDIA NeMoは、1月8日にWebmaster Homeが報じたように、英語の話し言葉を卓越した精度で書き起こすことができる最先端の自動音声認識(ASR)モデルシリーズであるParakeet ASRモデルファミリーを発表しました。 Nvidiaは、RNN Transducer/Connectionist Temporal Classificationデコーダーをベースに、60万〜1億1000万個のパラメータを持つ4つのParakeetモデルを発表しました。 幅広いオーディオ環境を処理でき、わずか64,000時間のデータセットでトレーニングした後、ベンチマークデータセットで優れたワードエラー率(WER)パフォーマンスを達成し、以前のモデルを凌駕しています。 開発者によると、このモデルは音楽やミュートなどの非音声セグメントに対して堅牢であり、ベンチマークテストではOpenAIのWhisper v3を上回っています。 また、事前にトレーニングされたコントロールポイントを使用して、プロジェクトへのユーザーフレンドリーな統合も提供します。

12月11日にDoNewsが報じたように、最近、マレーシアのエネルギー公益事業YTL Powerは、マレーシアでAIインフラストラクチャを構築するためのNVIDIAとのパートナーシップを発表し、第1フェーズは2024年半ばに稼働する予定です。 Yang は、NVIDIA H100 Tensor コア GPU をデータ センターに展開し、NVIDIA AI Enterprise ソフトウェアを使用して生産 AI を合理化すると理解されています。 NVIDIA AI Enterprise には、ジェネレーティブ AI モデルをどこからでも構築、カスタマイズ、展開できるエンドツーエンドのクラウドネイティブ フレームワークである NVIDIA NeMo が含まれています。 AIインフラは、YTLが開発した500メガワットの施設で、ジョホール州クライにあるYTLグリーンデータセンターキャンパスでホストされます。 マレーシアのアンワル・イブラヒム首相は、AIデータセンターへの投資額は42億9000万米ドル(約307億5900万元)に上ると述べた。

9 月 14 日の Science and Technology Innovation Board Daily のレポートによると、2023 年グローバル AI チップ サミットで、NVIDIA ソリューションおよびアーキテクチャ テクニカル ディレクターの張瑞華氏は、NVIDIA の最新オープン ソース ソフトウェア TensorRT-LLM を紹介し、TensorRT-LLM は基本的に次のような問題を解決できると述べました。現在の問題です。課題には、高速なモデル開発、頻繁な更新、多数のユーザーが含まれます。ソフトウェアは GPU マルチノードをサポートしており、プログラムが簡単です。Triton と組み合わせることで、マルチユーザーのレイテンシーの問題を軽減し、それによって、 GPU とコストの削減。大規模モデルのトレーニングのために、NVIDIA は NeMo フレームワークも提案しました。これは、生成 AI モデルを構築、カスタマイズ、展開するためのエンドツーエンドのクラウドネイティブ トレーニング フレームワークであり、基本的に大規模モデルのトレーニングのライフサイクル全体をカバーします。 。大きなモデルの意味不明化を防ぐために、NVIDIA は、大きなモデルが知識をより適切に一般化できるようにする安全ガードレール機能 (ガードレール) も提供しています。張瑞華氏は、AI モデルには膨大なユーザースペースがあり、将来的には研究機関に存在するだけでなく、あらゆる人の携帯電話やコンピューターにアプリケーションが搭載される可能性があると考えています。

IT House の 6 月 27 日のレポートによると、Nvidia は昨日、さまざまな業界の企業顧客が独自のデータを使用して AI モデルを構築できるよう支援するために、クラウド データ分析会社である Snowflake と戦略的パートナーシップを結んだと発表しました。 Huang Renxun 氏は、「Snowflake のようなビッグデータ分析はクラウド コンピューティングと切り離せないものです。」 Nvidia は、Snowflake が生成 AI をトレーニングおよび実行するための NeMo プラットフォームを Snowflake のデータ クラウドに組み込むのを支援しました。 Snowflake CEO の Frank Slootman 氏は、Snowflake を使用してデータを管理している企業は、自社のデータの制御を失う危険を冒すことなく、自社のデータを使用して新しい AI モデルをトレーニングできるようになったと述べました。双方は協力の具体的な詳細を明らかにしていないが、黄仁訓氏は、NVIDIAがAIプロセスから恩恵を受けるだろうと指摘した。同氏は、Nvidiaはより多くのチップを販売し、NvidiaのAIエンタープライズシステムがユーザーを支援すると述べた。報道によると、Nvidia は顧客に AI Enterprise ソフトウェアの使用料を請求しました。

IT Houseが英「Financial Times」の報道を引用し、NVIDIAの人工知能ソフトウェア「NeMo」はセキュリティ制限を簡単に回避でき、ユーザーのプライバシーが漏洩する可能性があると伝えた。レポートによると、NeMo は企業ユーザー データと大規模な言語モデルを組み合わせてユーザーの質問に答えることができる企業顧客向けのソフトウェアです。そのアプリケーション シナリオには、顧客サービスや簡単な医療上の質問への回答などが含まれます。カリフォルニア州の情報セキュリティ会社ロバストは、悪意のあるユーザーがNeMoの社内AIシステムのセキュリティ制限を簡単に回避できると報告書の中で述べた。 Robust の研究者は、これらの言語モデルの制限をわずか数時間で回避することができました。 Nvidiaの副社長ジョナサン・コーエン氏は、NeMoアーキテクチャは開発者が定義したトピックを満たすチャットボットの作成を支援するだけであり、オープンソースソフトウェアの形で開発者にリリースされると述べた。現在、これらのバグは修正されています。コーエン氏は、NeMoアーキテクチャを使用している企業の数については明言を避けたが、Nvidiaは他に脆弱性の報告を受けていないことを強調した。