上司「オンプレでチャットAI作って」 - Qiita
PythonでRinna社が提供している対話LLM rinna/japanese-gpt-neox-3.6b-instruction-sftを動かすことで、ローカルで動作するChatGPTのような対話AIソフトを作成しました！ 筆者自身もLLMや自然言語AIに全く詳しくなく1、Pythonに触ったのも久々だったのですが、言語モデルを手元で動かすのは案外簡単(大嘘2)だったため、本記事ではその紹介をしたいと思います！ ↑アイキャッチのこれは成果物であるTauri製アプリです。内部でPython3によって前述のrinna言語モデルを動かすことで実現しています(後述)。 リポジトリ: https://github.com/anotherhollow1125/rinna_gpt リリース: https://github.com/anotherhollow1125/rinna_gpt/releas
