Mozilla zet in op self-hosted AI met Thunderbolt-client

Mozilla-dochter MZLA Technologies Corporation heeft Thunderbolt aangekondigd, een open-source AI-client die zich richt op organisaties die hun AI-infrastructuur in eigen beheer willen houden. In plaats van een eigen model of AI-dienst te introduceren, positioneert Mozilla het platform als een interface bovenop bestaande AI-systemen die lokaal of binnen private omgevingen draaien.

Thunderbolt fungeert daarbij primair als front-end voor een zelf opgebouwde AI-stack. Het platform is bedoeld als generieke toegangspoort tot AI-functionaliteit, waarbij organisaties zelf bepalen welke modellen, agents en databronnen worden ingezet. Daarmee onderscheidt het zich van veel bestaande AI-oplossingen die sterk leunen op gesloten ecosystemen en cloudinfrastructuur.

De client ondersteunt integraties met verschillende AI-modellen en API’s die compatibel zijn met OpenAI-standaarden, evenals koppelingen met agents via open protocollen. Hierdoor kunnen organisaties zowel commerciële als open-source modellen inzetten, afhankelijk van hun behoeften en compliance-eisen. De onderliggende infrastructuur is gebaseerd op technologie van deepset, met het open-source framework Haystack als fundament voor het bouwen en orkestreren van AI-toepassingen.

Focus op lokale data en controle

Een belangrijk element in de architectuur is de mogelijkheid om lokale databronnen direct te integreren. Zo kan Thunderbolt gebruikmaken van een lokale SQLite-database als referentiepunt voor AI-modellen, wat organisaties in staat stelt om gevoelige informatie binnen de eigen omgeving te houden.

In combinatie met lokaal draaiende modellen betekent dit dat de volledige AI-stack, van data tot verwerking, intern kan blijven. Mozilla stelt daarnaast dat functies zoals end-to-end encryptie en apparaatgebonden toegangscontrole beschikbaar zijn om de beveiliging verder te versterken.

De functionaliteit van Thunderbolt sluit aan bij bekende AI-toepassingen, waaronder chat, zoekfunctionaliteit, onderzoek en automatisering van terugkerende taken. De client is beschikbaar voor meerdere platformen, waaronder Windows, macOS, Linux, iOS, Android en webomgevingen. De broncode is gepubliceerd op GitHub, waardoor organisaties het platform zelf kunnen aanpassen en uitbreiden.

Tegelijkertijd bevindt Thunderbolt zich nog in een vroege fase, stelt Ars Technica. Volgens de beschikbare documentatie is de software nog in actieve ontwikkeling en wordt deze momenteel onderworpen aan een security-audit in voorbereiding op enterprisegebruik. Mozilla richt zich desondanks al op zakelijke toepassingen, met ondersteuningstrajecten en implementaties op locatie voor organisaties die het platform willen inzetten.

De introductie van Thunderbolt past binnen een bredere strategie van de Mozilla Foundation om een open en gedecentraliseerd AI-ecosysteem te stimuleren. Via initiatieven zoals Mozilla.ai ondersteunt de organisatie al langer de ontwikkeling van open-source AI-tools en -modellen. Met Thunderbolt lijkt Mozilla deze inzet uit te breiden naar de enterprise-markt, met nadruk op controle, transparantie en keuzevrijheid.