JJUGナイトセミナー「Spring AI 特集」に行ってきた #jjug

JJUGナイトセミナー「Spring AI 特集」に参加しました。オンライン参加。簡単に所感をまとめます。

jjug.doorkeeper.jp

所感

これまで、AI 界隈では Java はあまりメインで使われてこなかったけど、Spring AI プロジェクトはそのあたりの課題を解決するのが目的であるらしい、なるほど。Spring AI によって Java や Spring を利用するエンジニアも AI アプリケーションの開発に取り組みやすくなったのね。特に Spring のエコシステムと連携できるのは大きいと思う。

最後の方で紹介されてた「VMware Private AI Foundation with NVIDIA」は、こういうのが普及したらエンタープライズの企業でも AI 活用がさらに進みそう。

あと、今さら気が付いたけど、AI 関連の Dependency わりと種類あるのね...。(自分がこのあたり疎いだけかもしれないけど)

spring.io

github.com

以下、メモから抜粋。

君もAIエキスパート!? Spring AI によるAIアプリ開発のすゝめ

  • 生成AI
    • ある時点の情報で学習している
  • RAG
    • 検索拡張生成
    • retrieval-augmented generation
  • 大規模なAI活用への課題
    • データサイエンティスト依存
    • モデル開発
    • Webエンジニアとの隔たり
  • Spring AI
    • 隔たりを埋める
  • バックエンド選択可
    • OpenAI など
  • Vector Databases
    • RAG
    • 関連を辿るためのベクトル計算
  • ETL Pipeline
    • ドキュメントを読み込んでベクトルDBに格納するまでをAPIで操作可
  • Spring エコシステムとの連携
  • TestContainer
  • Observability
    • RAG 通信の可視化
    • retrieve/augment/generate のどこがボトルネックになっているか

Java で開発する OpenAI 連携アプリファーストステップ

www.docswell.com

  • APIキー
  • Dependency
    • AI > OpenAI
  • ChatClient
    • OpenAiChatClient
  • VMware Private AI Foundation with NVIDIA
    • プライベート AI 基盤
    • プライバシーへの配慮/機密データの取り扱い
  • ローカル LLM
    • OpenAI 互換なら使える
  • LangChain4j