Die künstliche Intelligenz hat längst Einzug in die Medizin und die Medizintechnik gefunden.
Inhalt
Diese Seite verschafft einen Überblick und verlinkt auf relevante Fachartikel:
Regelmäßig werden die Begriffe künstliche Intelligenz (KI), Machine Learning und Deep Learning unpräzise oder gar synonym verwendet.
Bereits der Begriff „Künstliche Intelligenz“, auf Englisch „Artificial Intelligence“ (AI), führt zu Diskussionen,
beispielsweise ob Maschinen überhaupt über Intelligenz verfügen.
Wir verwenden im Folgenden diese Definition:
Definition Artificial Intelligence
„A machine’s ability to make decisions and perform tasks that simulate human intelligence and behavior.
Alternatively
Quelle: Merriam-Webster
Es geht somit um die Fähigkeit von Maschinen, in einer Weise Aufgaben zu übernehmen oder Entscheidungen zu treffen, die menschliche Intelligenz und menschliches Verhalten simuliert.
Viele Verfahren der künstlichen Intelligenz nutzen das Machine Learning, das wie folgt definiert ist:
Definition Machine Learning
A facet of AI that focuses on algorithms, allowing machines to learn and change without being programmed when exposed to new data.“
Deep Learning ist eine Klasse des Machine Learnings, die auf neuronalen Netzwerken basiert (s. Abb. 2).
Definition: Deep Learning
The ability for machines to autonomously mimic human thought patterns through artificial neural networks composed of cascading layers of information.“
Quelle: u.a. HCIT Experts
Damit ergibt sich die folgende Taxonomie:
Im AI Act definiert die EU den Begriff „AI System“:
“An AI system is a machine-based system designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.”
AI Act, Artikel 2 (Definitionen), Abschnitt 1
Diese Definition lässt drei Bedingungen erkennen, die ein „machine-based system“ zum „AI system“ machen:
| Bedingung | Kommentar |
|---|---|
| designed to operate with varying levels of autonomy | Das Wort “varying” ist schwammig, so dass diese Teilbedingung kaum einschränkt, was unter diese Definition fällt. |
| may exhibit adaptiveness after deployment | Das Wort “may” heißt, dass es diese Anpassungsfähigkeit geben kann aber nicht muss. Damit schränkt diese Teilbedingung nicht ein, was unter diese Definition fällt. |
| infers, from the input it receives, how to generate outputs … | Das System leitet aus den Inputs ab, wie es die Outputs generiert. Es geht also nicht darum, dass das System aus den Inputs die Outputs ableitet, sondern wie (also die Art und Weise?) es das tut. |
Fazit: Es wirkt, als würde nur die dritte Bedingungen wirksam eingrenzen, was ein AI-System ist. Und diese Bedingung ist schwer verständlich.
Beispiel
Bei einem Neuronalen Netzwerk (NN) bestimmen nicht die Inputs die Art, wie die Outputs generiert werden. Denn das ist über die Architektur des NN sowie über die Gewichte und Biases der Neuronen bereits vorbestimmt, bevor ein Input das System erreicht.
Die Inputs bestimmen hingegen die Outputs. Aber das ist auch bei jedem konventionellen Software-Algorithmus der Fall.
Mehrere Artikel beleuchten die regulatorischen Anforderungen an Medizinprodukte bzw. IVD, welche Verfahren der künstlichen Intelligenz, z.B. des maschinellen Lernens verwenden, und geben Tipps zur Umsetzung.
Bei der Umsetzung der regulatorischen Anforderungen sind auch diese Artikel hilfreich:
Ein Übersichtsartikel beschreibt die Anwendung und den Einsatz der künstlichen Intelligenz in der Medizin und in Medizinprodukten bzw. IVD.
Ein weiterer vergleicht den Einsatz der KI im Bankenumfeld.
Haben Sie noch Fragen zur Qualifizierung oder Klassifizierung von Medizinprodukten? Dann nutzen Sie das kostenfreie Micro-Consulting.
Der KI-Leitfaden des Johner Institut ist die Basis des „Questionnaires“ des TeamNB.
Beachten Sie auch die Seminare:
Online-Kurse im Auditgarant bzw. der Johner Academy führen Hersteller auf ihrem Weg zu „AI-Act-konformen“ Medizinprodukten und IVD.
Die Experten und Expertinnen des Johner Instituts sind darauf spezialisiert, eine regulatorische Strategie zu erarbeiten, mit der Sie als Hersteller Ihre KI-basierten Produkte möglichst schnell und möglichst flexibel weltweit in den Markt bringen können. Melden Sie sich gleich hier.
Die EU-KI-Verordnung (EU AI Act) ist veröffentlicht. Viele Hersteller von Medizinprodukten und IVD sowie andere Akteure im Gesundheitswesen stehen vor der großen Aufgabe, den über 140 Seiten umfassenden Gesetzestext zu verstehen und die Anforderungen zu erfüllen. Beachten Sie: Verstöße gegen den AI Act werden mit bis zu 7 % des jährlichen Umsatzes bestraft. Dieser Artikel erspart Recherchearbeit und…
Weiterlesen
Medizinprodukte basieren zunehmend auf Closed-Loop-Systemen. Diese „geschlossenen Regelsysteme“ finden bereits in der Medizinprodukteverordnung MDR Erwähnung. Sie erfahren in diesem Artikel, was Closed-Loop-Systeme sind, wo sie in der Medizin zum Einsatz kommen und welche regulatorischen Anforderungen sie erfüllen müssen. Der Beitrag verrät Ihnen auch, wie Sie beim Kauf der Norm IEC 60601-1-10 einige Hundert Euro sparen…
Weiterlesen
Für Hersteller ist die Antwort auf die Frage relevant, ob und wann beim Einsatz künstlicher Intelligenz in Medizinprodukten klinische Studien notwendig sind. Denn davon hängen die Dauer und die Kosten ab, um diese Produkte in den Markt zu bringen. Die gute Nachricht vorweg: Es gibt Fälle, in denen die Hersteller auf klinische Studien bei Produkten…
WeiterlesenDecision Support Systeme, zu Deutsch Entscheidungsunterstützungssysteme, finden auch in der Medizin zunehmend Anwendung. Handelt es sich dabei um Medizinprodukte, müssen diese die gesetzlichen Anforderungen (z.B. die grundlegenden Anforderungen) erfüllen. Der Hype um die künstliche Intelligenz, insbesondere das Machine Learning, und Anwendungen wie Watson wecken Hoffnungen an die Leistungsfähigkeit von Decision Support Systemen. Dieser Artikel stellt die…
Weiterlesen
Dass künstliche Intelligenz (KI oder AI) ein enormes Potenzial für die Medizin birgt, haben viele Hersteller bereits erkannt. Was aber, wenn die Schlüsse der KI für den Menschen nicht mehr nachvollziehbar sind? Ein reales und akutes Problem, bei dem das Konzept der “Interpretierbarkeit von KI” hilft. Die Interpretierbarkeit von maschinellem Lernen sorgt dafür, dass KI-basierte…
WeiterlesenEnde 2020 veröffentlichte die ISO den Technical Report ISO/IEC TR 29119-11. Er trägt den Titel „Guidelines on the testing of AI-based systems“. Viele Firmen möchten wissen, wie sie ihre Produkte, die auf Verfahren der künstlichen Intelligenz (KI) basieren, nach dem Stand der Technik testen sollen. Daher hat sich die ISO/IEC TR 29119-11 auf den Weg…
WeiterlesenDas Transfer Learning ist ein spezieller Ansatz beim Machine Learning. Damit bezeichnet man die Wiederverwendung eines vortrainierten Modells (pre-trained model) für ein neues Problem. Diese Wiederverwendung kann mehr als nur redundante Trainingsarbeit ersparen. Sie bedingt aber, dass Hersteller sich auf neue Fragen von Auditoren und Prüfern einstellen müssen.
WeiterlesenSeit vielen Jahren nutzen Banken das Machine Learning. Von diesen Erfahrungen können andere Branchen profitieren: die Medizinproduktehersteller, aber auch prüfende Organisationen wie Behörden und Benannte Stellen. Aus den Parallelen beider Branchen lassen sich fünf Best Practices sowie Empfehlungen ableiten und damit Kosten und unnötiger Ärger mit Prüfern vermeiden. Ein Beitrag von Prof. Dr. Christian Johner…
WeiterlesenImmer mehr Hersteller setzen Machine Learning Libraries wie scikit-learn, TensorFlow und Keras in ihren Produkten ein. Damit beschleunigen sie ihre Forschungs- und Entwicklungsvorhaben. Allerdings ist nicht allen Herstellern klar, welche regulatorischen Anforderungen sie bei Machine Learning Libraries nachweisen müssen und wie sie das am besten tun. Das führt dazu, dass sie unnötige Aufwände treiben oder…
Weiterlesen