Mehr Sicherheit beim KI-Einsatz

deepc, Centaur Labs und Segmed gründen KI-Sicherheitsinitiative

Der Einsatz von Künstlicher Intelligenz (KI) wird immer mehr zu einem integralen Bestandteil von Arbeitsabläufen in der Radiologie. Damit werden auch die für die Entwicklung von KI-Algorithmen verwendeten Daten immer wichtiger. Eine Herausforderung für die Branche besteht darin, die Überwachung von KI nach der Markteinführung in großem Maßstab zu gewährleisten und eine Grundlage für die kontinuierliche klinische Sicherheit und Verbesserung der Algorithmen vor und nach dem klinischen Einsatz zu schaffen. KI-Algorithmen müssen bereits jetzt hohe Standards erfüllen, um von regulatorischen Stellen wie z.B. der FDA zugelassen zu werden.

In einigen klinischen Szenarien kann es jedoch vorkommen, dass die Leistung eines KI-Algorithmus nicht den Erwartungen entspricht oder sich im Laufe der Zeit verschlechtert, z. B. aufgrund unterschiedlicher Zielpatientengruppen oder neuer Scannertypen. Um solche Auswirkungen sofort zu erkennen, ist es entscheidend, die Leistung der KI vor und während ihres Einsatzes in der klinischen Routine zu bewerten. In solchen Fällen können die KI-Algorithmen dann auf breiteren Datensätzen neu trainiert werden, die die Zielpopulation widerspiegeln und sie robuster und sicherer machen. Um diesen Bedarf zu decken, haben deepc, Centaur Labs und Segmed eine KI-Sicherheitsinitiative für die Radiologie ins Leben gerufen, um die kontinuierliche KI-Leistung in klinischen Arbeitsabläufen zu verbessern.

Von l. nach r.: 
Dr. Martin Willemink, MD PHD, CEO Segmed, John Moulden, CCO deepc, Dr. Anna Tidstam, CTO, deepc, Erik Duhaime, CEO Centaur Labs

Das deutsche MedTech-Unternehmen deepc mit seiner führenden Radiologie-KI-Plattform deepcOS bietet Radiolog:innen Zugang zu einer Vielzahl von regulatorisch zugelassenen KI-Lösungen aus seinem weltweit führenden Partnernetzwerk. Die US-Firma Segmed stellt gesicherte, de-identifizierte medizinische Daten zur Verfügung, und das gleichfalls in den USA ansässige Unternehmen Centaur Labs bietet eine Labeling-Lösung für solche Daten. In Zusammenarbeit mit seinen KI-Partnern unterstützt deepc KI-Anwendungen dabei, die höchsten Sicherheits- und Leistungsstandards zu erfüllen. 

Kunden, die deepcOS nutzen, suchen in der Regel Unterstützung bei der Validierung und dem Benchmarking, um die optimale Leistung und Sicherheit von Algorithmen vor der Markteinführung zu ermitteln und so eine Auswahl zu gewährleisten, die den spezifischen Anforderungen des klinischen Umfelds entspricht. 

Die Self-Service-Datenplattform Insight von Segmed ermöglicht es KI-Entwickler:innen, Kohorten de-identifizierter und strukturierter Daten zu erstellen, die für das Training, Testen und die Validierung von KI-Algorithmen leicht verfügbar sind. 

Gemeinsam mit Centaur Labs kann medizinisches Labeling für bestimmte klinische Indikationsbereiche angeboten werden, um den sicheren Betrieb von KI-Anwendungen auf spezifischen Kundendaten vor dem Einsatz zu gewährleisten.

Die drei Unternehmen entwickeln derzeit ein gemeinsames Angebot: KI-Anbieter werden in der Lage sein, über die deepcOS-Plattform eine Überwachung nach der Markteinführung in Echtzeit durchzuführen und zu erkennen, wenn ein KI-Modell im Laufe der Zeit eine suboptimale Leistung erbringt – ein Phänomen, das oft als „KI-Drift“ bezeichnet wird. Dies kann z. B. durch eine sich verändernde Patientenpopulation oder neue Scannertypen verursacht werden. deepc wird den KI-Anbietern diese präzisen Informationen zur Verfügung stellen und einen On-Demand-Zugang zu Daten bieten. Segmed stellt durch seine Datenplattform diese Daten anonymisiert für die KI-Entwicklung zur Verfügung, und Centaur Labs labelt sie durch die skalierbare Annotationsplattform. Diese Daten können verwendet werden, um den KI-Algorithmus neu zu trainieren und die Leistung, Robustheit und klinische KI-Sicherheit zu verbessern. Die Sammlung vielfältiger, relevanter Daten und das Labeling dieser Daten sind zwei der größten Engpässe in KI-Pipelines, die von den deepc-Partnern Segmed und Centaur Labs gelöst werden.

Erik Duhaime, CEO von Centaur Labs, sagt: „Die Möglichkeit, Schwächen des Modells durch deepcOS zu identifizieren und sie in unserem gemeinsamen Angebot schnell zu korrigieren, ist ein großer Schritt nach vorn bei der Skalierung von KI für die breite klinische Anwendung.“

Dr. Martin Willemink, CEO von Segmed, fügt hinzu: „Wir freuen uns, aufbauend auf der Partnerschaft mit deepc, eine Ende-zu-Ende-Lösung anbieten zu können, die Zugang zu unseren standardisierten, qualitativ hochwertigen Datensätzen bietet, die wir von unseren Datenpartnern weltweit beziehen. So ermöglichen wir es KI-Unternehmen, ihre Produkte zu den besten auf dem Markt zu machen und Verzerrungen in KI-Algorithmen zu reduzieren.“

„Die herausragenden Bemühungen unserer Unternehmen erhöhen die klinische KI-Sicherheit. Das führt zu besseren klinischen Ergebnissen und mehr Patientensicherheit. Wir sind stolz darauf, diese wichtige Initiative in der Branche gegründet zu haben“, sagt Dr. Franz Pfister, Mitbegründer und CEO von deepc.

www.deepc.ai