オープンソースのLLM「Llama 2」のデモを使う方法
最近、話題になっているMeta社のオープンソースのLLM「Llama 2」のHugging Face Hub（ハギングフェイス・ハブ）で共有されているデモを試してみました。
ちなみにHugging Face Hubは、Hugging Face社が提供している自然言語処理（NLP）のためのオープンソースのモデルやデータのリポジトリということで、学習済みのモデルが共有されたりするサービスです。
以下のリンクよりデモ画面に飛べます。
ysharma/Explore_llamav2_with_TGI
デモのUIはこんな感じ。
日本語で会話できるか聞いてみたところ、会話できると返答があったものの、その後、英語で文章を生成しているので、今のところ日本語はあんまり得意ではない様子。
せっかくオープンソースのLLMが出てきたので、今後、自身の開発などでも、ぜひ、利用してみたいと思います。