LocalAI

LocalAI என்பது உள்ளூர் AI க்கான Swiss Army கத்தி. MIT உரிமத்தின் கீழ் இந்த திறந்த மூல API சர்வர் OpenAI API க்கான நேரடி மாற்றாக செயல்படுகிறது, மொழி மாதிரிகள், பட உருவாக்கம், text-to-speech, embeddings மற்றும் பலவற்றை உங்கள் சொந்த வன்பொருளில் இயக்க முடியும்.

42,000+ GitHub நட்சத்திரங்களுடன், LocalAI சுய-ஹோஸ்ட் AI சூழலமைப்பில் உறுதியான நற்பெயரை கட்டியுள்ளது. இதன் தத்துவம்: AI ஐ பயன்படுத்த உயர்நிலை GPU அல்லது cloud கணக்கு தேவையில்லை. LocalAI நுகர்வோர் தர வன்பொருளில் செயல்படும், CPU-மட்டும் பயன்முறை உட்பட.

LocalAI சூழலமைப்பு மூன்று துணை கூறுகளை மையமாக கொண்டுள்ளது: LocalAI (inference engine மற்றும் API), LocalAGI (no-code தன்னியக்க முகவர் தளம்) மற்றும் LocalRecall (semantic தேடல் மற்றும் நினைவக மேலாண்மை). இணைந்து, அவை ஒரு முழுமையான உள்ளூர் AI தொகுப்பை உருவாக்குகின்றன.

LocalAI பல inference backend களை ஆதரிக்கிறது (llama.cpp, transformers, vLLM போன்றவை), உள்ளமைக்கப்பட்ட மாதிரி கேலரி பதிவிறக்கங்களை எளிதாக்குகிறது, மற்றும் distributed inference பல இயந்திரங்களில் சுமையை பரப்ப உதவுகிறது. Docker, Podman, Kubernetes அல்லது உள்ளூர் நிறுவல் வழியாக நிறுவலாம்.

OpenAI API இலிருந்து உள்ளூர் தீர்வுக்கு client code இல் ஒரு வரி கூட மாற்றாமல் தங்கள் பயன்பாடுகளை மாற்ற விரும்பும் டெவலப்பர்கள் மற்றும் DevOps குழுக்களுக்கு இது சிறந்த கருவியாகும்.