Ollama

Ollama உள்ளூர் மொழி மாடல்களுக்கான அணுகலை ஒரு terminal கட்டளையைப் போல எளிமையாக மாற்றி புரட்சி செய்துள்ளது. 2023-ல் உருவாக்கப்பட்ட இந்த திறந்த மூல கருவி, Apple Silicon கொண்ட Mac, NVIDIA GPU கொண்ட PC அல்லது Linux சேவையகம் என எந்த வன்பொருளிலும் LLM-களை நேரடியாக பதிவிறக்கி, உள்ளமைத்து, இயக்க அனுமதிக்கிறது.

Ollama-வின் அணுகுமுறை மிகவும் எளிமையானது: ollama run llama3.3 என தட்டச்சு செய்யுங்கள், மாடல் பதிவிறக்கப்பட்டு, தானாக உள்ளமைக்கப்பட்டு, இயங்கத் தொடங்கும். 40,000-க்கும் மேற்பட்ட சமூக ஒருங்கிணைப்புகள் Open WebUI போன்ற இணைய இடைமுகங்கள் முதல் மேம்பாட்டு IDE-கள் வரை Ollama-வுடன் இணைகின்றன.

2025-ல், Ollama cloud திட்டங்களை (Pro $20/மாதம், Max $100/மாதம்) அறிமுகப்படுத்தியது — உள்ளூர் செயல்பாட்டை இலவசமாகவும் வரம்பற்றதாகவும் வைத்திருக்கும் அதே நேரத்தில், அர்ப்பணிக்கப்பட்ட சேவையகங்களில் வழங்கப்படும் சக்திவாய்ந்த மாடல்களுக்கான அணுகலை வழங்குகிறது. உங்கள் தரவு எப்போதும் தனிப்பட்டதாக இருக்கும்: எந்த prompt-களும் பதில்களும் பதிவு செய்யப்படவோ பயிற்சிக்குப் பயன்படுத்தப்படவோ இல்லை.

இந்த கருவி GGUF quantization, GPU முடுக்கம் (CUDA, ROCm, Metal), ஒரே நேரத்தில் பல மாடல்களை இயக்குதல் ஆகியவற்றை ஆதரிக்கிறது, மேலும் OpenAI-யுடன் இணக்கமான உள்ளூர் REST API-ஐ வெளிப்படுத்துகிறது. உள்ளூர் AI-ஐ தங்கள் திட்டங்கள், தானியங்கி குழாய்வழிகள் அல்லது RAG பணிப்பாய்வுகளில் ஒருங்கிணைக்க விரும்பும் டெவலப்பர்களின் முதல் தேர்வு இதுவே.