De assistent kent de repository
LocalAI is een assistent voor het ontwikkelwerk van CodeDivers zelf. Een algemeen model weet niets van de interne projecten. De code naar een externe dienst sturen was geen optie.
De assistent is gebouwd in Python, met het LangChain-framework, Streamlit als interface en Llama 2 als model. Een lokale vectordataset bevat de ingelezen projectbestanden. Vanuit die set kan de assistent onderdelen voorstellen en helpen bij een uitbreiding van bestaande code.
Bijwerken zonder alles opnieuw te laden
Een verversknop leest gewijzigde bestanden opnieuw in, zodat de dataset de repository volgt. De verwerking blijft lokaal.
Ontwikkelaars stellen daardoor vragen over de eigen code, zonder die code bij een externe AI-dienst onder te brengen.
