こんにちはIZAIエンジニアチームです。 今回は、超高速なLLMの推論を可能にするGroqのAPIと最近Metaからリリースされた最新のllama-3.1とを組み合わせてチャットボットを作成、検証していきたいと思います。 Groq（グロック）って？ Groqは主に大言語モデル(LLM)の ...

OAKLAND, California (Reuters) - Groq, a Silicon Valley chip startup founded by a former Alphabet Inc engineer, said on Thursday it has adapted technology similar to the underpinnings of the wildly ...

Groqとは、高速なLPU(Language Processing Unit)を開発しているアメリカ系のベンチャー企業です。株式は公開されていませんが、Meta社のLlama3リリースタイミングで、Llama3を取り込んだGroqChatにより、高速な言語処理能力を見せつけて、Twitterやテック系記事で取り上げ ...

「スピードは機能です」と、グーグルの共同創業者であるラリー・ペイジは以前に話していた。「スピードは製品に機能を追加することと同じくらい、ユーザーの利用を促進できます。この価値は本当に過小評価されています」 ペイジの発言を思い出したの ...

Streamlitによるチャットボットアプリ。 LLMにはLangChainで、Ollamaに問い合わせます。 git clone https://github.com/akokubo/streamlit-langchain ...