Dnotitia test vectorchip voor zoektocht achter RAG en AI-agents
Dnotitia kondigde rond AI Infra Summit 2026 (15–17 september, Santa Clara) aan dat de eerste ASIC-samples van zijn Vector Data Processing Unit (VDPU) terug zijn van fab en chip-level characterization ondergaan. De chip moet vector retrieval voor RAG en agentische AI versnellen. Prestatiecijfers tot 5,77× vector-search throughput versus een dual-socket CPU-server zijn op een FPGA-evaluatieplatform gemeten, niet op finale ASIC-silicon. Voor het Amsterdamse Weaviate is dit relevant omdat vectorafstandsberekeningen in HNSW-workloads vaak 40–60 procent van de CPU-tijd opeisen.
/more
CTO Se-Hyun Yang stelde dat agentische AI de bottleneck van modelcompute naar retrieval verschuift: modellen zoeken en verifiëren informatie herhaaldelijk, dus retrieval heeft een eigen processing-laag nodig. VDPU moet CPU-capaciteit teruggeven aan applicaties en GPU-HBM vrijhouden voor modeluitvoering. Op FPGA met vier VDPU-kaarten daalde host-CPU-gebruik tijdens index building in een 4.096-dimensionale multimodal workload met 92 procent en host memory met 73 procent, bij gelijke of betere recall.
Het FPGA-platform is gevalideerd met FAISS, Milvus en hnswlib over brute-force KNN, IVF, NSW en HNSW. Dnotitia plant bredere vector-library- en database-ondersteuning op de ASIC. ASIC-based evaluations staan gepland voor Q4 2026, met een target tot 10× vector-search performance versus een CPU-server. Eerder won Dnotitia een Best of Show-award op FMS 2026 bij de eerste publieke VDPU-chip/accelerator-demo.
Weaviate als Nederlandse context, geen partnershipclaim
Weaviate, met sterke Amsterdamse roots, publiceerde eerder dat bij HNSW-profiling 4060 procent van de CPU-tijd opgaat aan vector distance calculations — reden om SIMD en Xeon-optimalisaties te benutten. Dnotitia’s pitch raakt dat knelpunt hardwaresmatig. In de summitberichtgeving worden vector database providers als gesprekspartners genoemd; een specifieke Weaviate–Dnotitia-deal of integratie is niet bevestigd. NEED_SOURCE voor claims dat Weaviate VDPU al evalueert of ondersteunt.
Duiding: retrieval-silicon naast GPU-hype
Voor Nederlandse AI-infra en vector-DB-gebruikers is VDPU een reminder dat RAG-kosten niet alleen tokens zijn, maar ook zoek-CPU. De kans is dedicated silicon voor retrieval-intensieve agents; het risico is dat FPGA-cijfers ASIC-verwachtingen opblazen en dat ecosysteem-integratie (libraries, drivers, cloud SKUs) langer duurt dan de Q4-eval. Dit is redactionele duiding.
Meer informatie
Dnotitia Brings Dedicated Vector Silicon to Server Scale at AI Infra Summit 2026
Dnotitia begins characterisation of first VDPU silicon
https://weaviate.io/blog/intel
https://www.dnotitia.com/