AI-berekening is meer dan de belangrijkste SoC! Een heldere blik op de echte rol van de RK1820 in het RK3588-systeem

Waarom praten steeds meer edge devices over NPU's en coprocessors? De RK3588 is al een krachtige 6 TOPS (INT8) SoC, maar in complexe scenario's zoals multi-task inferentie, model parallelisme en video-AI analytics is de compute-limiet van een enkele chip er nog steeds. RK1820 is precies gemaakt om dat deel van de belasting over te nemen en de 'compute-angst' van de belangrijkste SoC te verlichten. In edge-AI-apparatuur vecht de hostprocessor niet langer alleen; wanneer AI-taken de planningscapaciteit van de traditionele CPU/NPU overstijgen, komt de coprocessor stilletjes tussenbeide en neemt een deel van de intelligente workload over.

RK1820 is een coprocessor die speciaal is gebouwd voor AI-inferentie en compute-uitbreiding; hij kan flexibel worden gecombineerd met host-SoC's zoals RK3588 en RK3576 en communiceert efficiënt met hen via PCIe- of USB-interfaces.

In het RK3588 + RK1820-systeem wordt de AI-taakpijplijn opgesplitst in een vierlaagse architectuur:
Applicatie → Middleware → Coprocessor-uitvoering → Besturing & Presentatie.
RK3588 host: handelt taakplanning, gegevensvoorverwerking en resultaatuitvoer af en beheert de hele workflow.
RK1820 coprocessor: toegewijd aan high-compute AI-inferentie, gekoppeld aan de host via PCIe, vormt een 'lichte controle + zware compute' samenwerkingsmodel.

De applicatielaag is waar elke AI-taak begint; het vertaalt gebruikersvereisten—beeldanalyse, objectdetectie, edge-side LLM Q&A, enz.—in systeem-uitvoerbare taakopdrachten en geeft deze door aan de middlewarelaag via gestandaardiseerde API's. Deze laag wordt volledig afgehandeld door de RK3588-host, die de interactie met de gebruiker, bedrijfslogica en perifere gegevens beheert.

Taakontvangst: verkrijgt gebruikersopdrachten via camera's, aanraakschermen, Ethernet, UART, enz.

• Slimme beveiliging: detecteert personen in videoframes
• Industriële inspectie: identificeert oppervlaktedefecten op producten
• Edge LLM: converteert spraakinvoer naar tekst en vormt een Q&A-taak

Opdrachtstandaardisatie: zet ongestructureerde invoer om in gestructureerde taakparameters

• Visuele taak: invoerresolutie, modelversie, uitvoervereisten
• LLM-taak: invoertokens, modelversie, maximale uitvoerlengte

De middlewarelaag is de samenwerkingshub: hij beoordeelt elke taak, wijst resources toe, verwerkt gegevens vooraf en beheert busverkeer. Hij beslist of de taak op de host wordt uitgevoerd of wordt uitbesteed aan de coprocessor.
Alleen RK3588; RK1820 neemt geen deel aan PCIe-configuratie of interruptbeheer—hij voert gewoon de inferentietaken uit die door de host worden verzonden.

Taakclassificatie en -planning

• Lokale verwerking: low-compute of latency-kritieke taken (beeldschaling, lichtgewicht AI-inferentie) worden afgehandeld door RK3588 CPU/NPU/RGA.
• Uitbesteden aan RK1820: high-compute taken (YOLOv8 multi-class detectie, LLM-inferentie, semantische segmentatie) worden naar RK1820 gestuurd. Zodra RK1820 het overneemt, wordt de host CPU/NPU vrijgemaakt voor ander werk.

Gegevensvoorverwerking

• Visie: bijsnijden, ruis verwijderen, normaliseren, kanaal opnieuw ordenen.
• Tekst: tokeniseren, opvullen, coderen.

Buscommunicatiecontrole

• Brengt een verbinding tot stand via PCIe of USB3.
• Gegevensoverdracht maakt gebruik van DMA, geen CPU-interventie.
• Geeft inferentie-besturingsopdrachten uit: start NPU, stel precisie in, verhoog voltooiingsinterrupt.

Deze laag is de inferentiekern, exclusief aangestuurd door de RK1820 coprocessor, toegewijd aan high-compute AI-inferentie.
RK1820 actief; RK3588 interfereert niet met inferentie, hij wacht alleen op resultaten. Time-out of uitzonderingen worden afgehandeld door RK3588 via PCIe reset-opdrachten.

Taakontvangst en -voorbereiding

Ontvangt gegevens, modelgewichten en opdrachten die door RK3588 zijn verzonden; schrijft ze naar lokaal high-bandwidth DRAM, laadt het model en configureert de NPU.

NPU-inferentieberekening

• Objectdetectie (YOLOv8n): conv → BN → activeren → pool → post-process NMS.
• LLM-inferentie (Qwen2.5 3B): prefill invoertokens → decode token-per-token generatie.
• Inferentie-optimalisatie: operatorfusie, gewichtscompressie.

Resultaatretour

• Retourneert bounding-box coördinaten, klasse-ID's en betrouwbaarheidsscores voor detectie.
• Retourneert tokenreeks voor de LLM.

Deze laag is het eindpunt van elke AI-taak: hij zet de onbewerkte inferentieresultaten van RK1820 om in visuele of bedrijfsgerichte uitvoer en sluit de lus.
RK3588 actief; RK1820 levert alleen de onbewerkte inferentiegegevens.

Resultaatnabewerking

• Kaartcoördinaten terug naar de originele beeldgrootte.
• Decodeer tokens in natuurlijke taal.
• Tel defecten bij industriële inspectie.

Systeemcontrole & feedbackuitvoer

• Slimme beveiliging: geef video weer met detectie-overlays, activeer alarmen.
• Industriële inspectie: opdrachtregel om defecte producten af te wijzen.
• Edge LLM: toon tekst + spraakaankondiging.

Waarde van synergie: niet alleen sneller, maar ook slimmer

Simpel gezegd: RK3588 runt de show en houdt alles op schema, terwijl RK1820 onbewerkte compute-bursts levert; samen maken ze edge-AI-apparaten 'slimmer, sneller en probleemloos'.
Volg ons voor meer RK1820-nieuws en SDK-updates, nieuwe tutorials en kant-en-klare demo's.