nlp


サーバーレス&シングルファイル!Pythonライブラリ「memvid」で実現する最小構成のAI長期記憶

Aさん(部長)「いや〜、最近のAIエージェントは物忘れがひどくて困るよ。昨日の打ち合わせ内容を忘れて、また同じ質問をしてくるんだ。まるで私のスライスショットの癖を忘れて、毎回池に打ち込むキャディみたいだよ!」Bさん(エンジニア)「部長、それは『長期記憶』が足りないんですよ。普通はRAG(ラグ)っていう複雑な仕組みを作るんですけど、データベースを立てたり、ベクトル検索の設定をしたり……。例えるなら、パター一本でいいのに、わざわざ大型ダンプカーで芝を整えに行くような手間がかかるんです。」


ハルシネーションを許さない。LangExtractで実現する根拠(ソース)付きの情報抽出の実践

「彼女の下着は何色?」という、一歩間違えれば通報案件の問いを、LangExtractがどう鮮やかに(かつ紳士的に)解決するのか……。コント仕立てのサンプルコードと一緒に見ていきましょう!一言でいうと、「LLMを使って、超高精度かつ『証拠付き』でテキストを構造化データ(JSON等)にするライブラリ」です。


vLLMの哲学をポケットに!Nano vLLMで実現する、シンプルかつ高効率なLLMサービング

「Nano vLLM」とは、大規模言語モデル(LLM)の推論(インファレンス)を超軽量かつ高速に行うためのライブラリです。まるで、今まで重い鎧を着ていた戦士(LLM)の鎧を、一瞬で超軽量で高機能な戦闘服に替えてしまう魔法のようなもの。特に、リソースが限られた環境(例えば、普通のPCやエッジデバイス、あるいはコストを抑えたいクラウド環境)で、LLMをサクサク動かしたいときに、この「Nano」な力が役立ちます。



ACL 2024採択!LLaMA-Factoryが変えるAIモデル開発の常識

おっと、あなたはソフトウェアエンジニアさんですね!ここでは、「hiyouga/LLaMA-Factory」という、とっても強力なツールキットについて、恐怖の館. ..ではなく、知識の館で詳しくご紹介しましょう!「hiyouga/LLaMA-Factory」は、まるで高性能なお化け除けのお札のように、大規模言語モデル(LLMs)やマルチモーダルモデル(VLMs)のファインチューニングを効率的かつ統一的に行うための強力なフレームワークです。


予測精度を高める!「微輿」 BettaFishに秘められた、スケーラブルな感情分析Agentの導入ガイド

「666ghj/BettaFish」は、[nlp, sentiment-analysis, python3]というタグが示している通り、自然言語処理(NLP)と感情分析(Sentiment Analysis)を行うためのPython3ベースのプロジェクトのようです。


動画ファイルが賢くなる?NLPとOpenCVでテキスト検索を可能にする「memvid」とは

「memvid」は、Olow304/memvid というGitHubリポジトリで公開されている、Pythonで書かれたライブラリです。NLP(自然言語処理)とOpenCV(コンピュータービジョンライブラリ)を組み合わせて、テキスト情報を動画ファイル(MP4)の中に効率的に保存し、高速な意味検索を可能にします。


AI-For-Beginnersで学ぶ、エンジニアのキャリアアップ

「microsoft/AI-For-Beginners」は、Microsoftが提供しているAI学習のための無料カリキュラムです。全24レッスン、12週間の構成で、初学者でも無理なくAIの基礎を学べるように設計されています。ソフトウェアエンジニアとしてAIを学ぶことは、以下のような多くのメリットがあります。


AIアプリケーション開発のためのレシピブック

今日は「Haystack」という、AIの世界で最近話題の新しいカクテルを紹介させてください。これ、ただのAIじゃなくて、色々なAIの材料を組み合わせて、お客様の好みにぴったりの一杯を作り出すためのツールなんです。ソフトウェアエンジニアの視点から言えば、Haystackは例えるなら「AIアプリケーション開発のためのシェイカーとレシピブック」です。


技術探求の羅針盤!stanford-oval/stormが導く、引用付きレポート生成の未来

未来はいつも不確実で、新しい技術の波は常に押し寄せますよね?特に「あのLLM(大規模言語モデル)ってやつ、一体何ができて、どうやって仕事に活かせばいいんだ?」と、ぼんやりとした不安を抱えている人もいるかもしれません。でも、心配ご無用!今日、あなたにご紹介するstanford-oval/stormは、そんなあなたの目の前の霧を晴らし、新しい知識の地平を切り開く、まさに「嵐」のようなシステムなのです!