Ollama — mahalliy AI modellar vositasi

Ollama
Логотип программы Ollama
Turi Sun’iy intellekt kutubxonasi[Vikima’lumotlar]
Dasturlash tili Go
Operatsion tizimlar Unixga o‘xshash operatsion tizim, macOS va Windows
Chiqarilgan sana 8-iyul 2023
Apparat platformalari Windows, macOS va Linux
So‘nggi versiya
Kod ombori github.com/ollama/ollama
Litsenziya MIT litsenziyasi
Veb-sayt ollama.com (inglizcha)
Логотип Викисклада Vikimedia Commons’dagi media fayllar

Ollama — bu yirik til modellarini (LLM) mahalliy qurilmada yoki bulutda ishga tushirish uchun mo‘ljallangan ochiq kodli dasturiy platforma. U buyruq satri interfeysini (CLI) taklif etadi. Bu interfeys orqali modellarni yuklab olish, o‘rnatish, ulardan foydalanish va o‘chirish mumkin. Qo‘llab-quvvatlanadigan modellar uchun yagona interfeysni taqdim etish orqali Ollama foydalanuvchilarga modellar qanday ishlashining tafsilotlarini bilmasa ham, ulardan foydalanish imkonini beradi. Ollama MIT litsenziyasi asosida erkin tarqatiladi..

Ichki tuzilishi

Ollama asosida barcha modellarni boshqarish va ular bilan o‘zaro ishlash uchun yagona JSON REST API’ni taqdim etuvchi mahalliy veb-server yotadi. Ollama dasturi ushbu serverni ishga tushiradi va boshqaradi, shuningdek, modellarni boshqarish hamda ular bilan o‘zaro ishlash uchun buyruq satri interfeysini taqdim etishda REST API’dan foydalanadi.

Ollama modellarni bevosita ishga tushirishda quyidagi dvigateldan foydalanadi: llama.cpp[inglizcha].

Ollama o‘zining grafik foydalanuvchi interfeysiga (GUI) ega emas; foydalanuvchiga buyruq satri interfeysini taklif etadi. Zarurat tug‘ilganda, masalan, Open WebUI.

Havolalar