KI-Forschung

Während das überwachte Lernen große annotierte Datensets für das Modelltraining erfordert, verwendet maschinelles Lernen mit minimaler Überwachung nicht gekennzeichnete Daten (unlabeld data) und erfordert minimale Eingriffe durch den Anwender. Ansätze mit minimaler Überwachung, wie teilüberwachtes, selbstüberwachtes und aktives Lernen sowie Uncertainty Modeling, verwenden andere Learning Frameworks, um die Genauigkeit zu verbessern. Diese Methoden sind relevant, wenn das manuelle Labeling zeit- oder kostenintensiv ist.

Wir entwickeln Ansätze für Few-Shot-Learning, die dann sinnvoll sind, wenn Daten für das Modelltraining nur begrenzt zur Verfügung sind. Unsere Ansätze umfassen die Verwendung multimodaler Daten, die sowohl Bilder als auch Text nutzen, als auch kreuzmodale Halluzination und Meta-Learning-Methoden. Ansätze für Few-Shot-Learning sind in allen Geschäftsszenarios mit begrenzten Trainingsdaten relevant, z. B. bei der Klassifizierung neuer Produkte in Online-Produktkatalogen.

Unsere integrativen VQA-Modelle (Visual Question Answering) verbessern die Erkennung von differenzierten Informationen und VQA-Bewertungsmetriken, sodass Computer Fragen zu einem Bild in natürlicher Sprache beantworten können. Die Anwendung von VQA-Modellen erstreckt sich über verschiedene Branchen und reicht von der Integration in intelligente Chatbots über Ticketing- und Rechnungsverarbeitungssysteme bis hin zum intelligenten Informationsabruf für medizinische Diagnostik.

Modernste Deep-Learning-Modelle sind rechenintensiv und erfordern teure Hardware. Wir entwickeln neue Ansätze für ressourceneffizientes Deep Learning, einschließlich der Bewertung von Modellkomplexität, ressourceneffizienten Netzwerken, Quantisierung, Pruning und Wissensdestillation. Effiziente Deep-Learning-Ansätze in branchenspezifischen Anwendungen helfen dabei, monetäre Kosten, Stromverbrauch, Inferenzzeit und Umweltauswirkungen zu minimieren.

Wir entwickeln Ansätze für das maschinelle Lernen, die Datenschutz und Fairness sicherstellen, wie z. B. Differential Privacy und föderiertes Lernen sowie Multitask-Learning. Auf diese Weise können generalisierte Diagnose- oder Vorhersagemodelle verwendet werden, ohne dass dabei die Privatsphäre des Einzelnen verletzt wird. Die Entwicklung von Algorithmen mit Fairness Constraints trägt auch dazu bei, die Risiken unbewusster Voreingenommenheit in Anwendungen wie Bonitätsprüfung, Kreditvergabe oder der Bewertung von Lebensläufen zu mindern.

Wir untersuchen Ansätze des lebenslangen Lernens, die es maschinellen Lernmodellen ermöglichen, wie Menschen zu lernen, d. h. schrittweise und durch die Nutzung von Vorwissen, um neue Aufgaben zu erlernen. Unsere Methoden umfassen klasseninkrementelle Ansätze, kontinuierliche Domänenanpassung, neuronale Plastizität und adaptive Kapazitätserweiterung. Modelle für maschinelles Lernen, die kontinuierlich lernen, sind immer dann relevant, wenn es nicht möglich ist, historische Trainingsdaten beizubehalten.

Das Verstehen von in natürlicher Sprache artikulierten Stimmungen und Meinungen ist eine zentrale Herausforderung bei der Verarbeitung natürlicher Sprache. Wir arbeiten an neuartigen Ansätzen für die Stimmungsanalyse, die sich auf neuronale Worteinbettung und aufmerksamkeitsbasierte Methoden konzentrieren. Die Stimmungsanalyse ist für Branchen wie Telekommunikation, Bankwesen, Versicherungen und E-Commerce relevant, in denen Meinungen zu Produkten und Dienstleistungen analysiert und umgesetzt werden müssen.

Modelle und Algorithmen für maschinelles Lernen haben ein hohes Maß an Komplexität erreicht, sodass es schwierig ist, Vorhersagen zu erklären. Interpretierbare Ansätze des maschinellen Lernens, wie selbstüberwachtes und metaüberwachtes Lernen sowie „Curiosity-driven Models“, ermöglichen die Erkennung von Mustern in Daten. Dies ist in Geschäftsanwendungen von entscheidender Bedeutung, da es Transparenz bietet und hilft, die zugrunde liegenden Gründe für vorgeschlagene Ergebnisse zu erläutern.

Das Extrahieren von Informationen aus strukturierten und unstrukturierten Dokumenten ist eine Herausforderung bei der Verarbeitung natürlicher Sprache (NLP), und es ist schwierig, gekennzeichnete Daten zum Trainieren maschineller Lernmodelle zu finden. Unsere Forschung konzentriert sich auf sequenzielle und zweidimensionale Ansätze für strukturierte Dokumente, kombiniert Elemente aus NLP mit Computer-Vision und integriert nicht überwachte und schwach überwachte Modelle mithilfe von Transfer Learning in Pipelines für die Informationsextraktion.