AI-engineer
- Python: Programmeertaal (zie ook cursus Python)
- Pydantic: Een data validatie library.
- Python-dotenv: Zorgt ervoor dat gevoelige informatie zoals API keys veilig buiten de versiebeheeropslagplaats blijft.
- Streamlit: Een Python-framework waarmee je snel interactieve webapplicaties kunt bouwen voor AI. Het maakt het eenvoudig om Python-code om te zetten in een visuele interface.
- FastAPI: Een library voor het bouwen van API's, vooral handig vanwege de integratie met Pydantic.
- Celery: Voor het bouwen van task queues om werk te verdelen over meerdere threads of machines.
- PostgreSQL: Een SQL database. (zie ook cursus Database queries en Database ontwerp)
- Timescale: Een extensie op PostgreSQL voor vector-opslag (ai-toepassingen)
- Pycopg: Python library voor PostgreSQL.
- SQLAlchemy: Vereenvoudigt operaties met SQL databases zoals PostgreSQL.
- Alembic: Beheert database migraties in combinatie met SQLAlchemy.
- Pandas: Voor het structureren en manipuleren van data in rijen en kolommen.
- OpenAI API, Anthropic API, Google's API: Verschillende API's van model providers.
- Instructor: Wordt gebruikt om gestructureerde uitvoer te halen uit modellen.
- PG Vector: Vector databases voor het opslaan en ophalen van context.
- PiMuPDF, PyPDF2: Libraries om informatie te extraheren uit documenten of PDFs.
- Jinja: Een templating engine voor Python, handig voor het bouwen van dynamische prompts.
Links
- OpenWebUI
- Open WebUI is an extensible, feature-rich, and user-friendly self-hosted AI platform designed to operate entirely offline. It supports various LLM runners like Ollama and OpenAI-compatible APIs, with built-in inference engine for RAG, making it a powerful AI deployment solution.
- LiteLLM
- Call all LLM APIs using the OpenAI format [Bedrock, Huggingface, VertexAI, TogetherAI, Azure, OpenAI, Groq etc.]
