Skip to main content Skip to main navigation

Projekt | NoIDLEChatGPT

Laufzeit:
No-IDLE meets ChatGPT

No-IDLE meets ChatGPT

Das Projekt "No-IDLE meets ChatGPT" zielt darauf ab, die Mensch-Maschine-Interaktion bei der Aktualisierung von Deep-Learning-Modellen (DL) zu verbessern, indem die Mensch-Computer-Interaktion (HCI) mit dem maschinellen Lernen (ML) verbunden wird. Es führt einen neuen Aspekt ein, bei dem ChatGPT und andere große Sprachmodelle (LLMs) in die interaktive Erstellung von Fotobüchern integriert werden, um ihre Fähigkeiten bei der Bildsuche, der Beschriftung und bei Erkennungsaufgaben zu testen. Der Vorschlag erforscht, wie LLMs, einschließlich GPT-4, zu einem besseren Verständnis von Szenen und zu vernünftigen Schlussfolgerungen in KI-Systemen wie No-IDLE beitragen können. Er erwähnt auch das Konzept des Automatic Prompting für LLMs und die Untersuchung anderer LLMs neben ChatGPT, wie Bard und Claude. Das Projekt zielt darauf ab, sowohl proprietäre als auch Open-Source-Modelle zu nutzen, um verschiedene Anwendungsaufgaben im Fotobuch-Kontext zu verbessern, einschließlich der cross-modalen Bild-Sprache-Suche und des visuellen Geschichtenerzählens.

Publikationen

Alle Publikationen
  1. Eliciting Multimodal Approaches for Machine Learning--Assisted Photobook Creation

    Sara-Jane Bittner; Michael Barz; Daniel Sonntag

    In: Carmelo Ardito; Simone Diniz Junqueira Barbosa; Tayana Conte; André Freire; Isabela Gasparini; Philippe Palanque; Raquel Prates (Hrsg.). Human-Computer Interaction -- INTERACT 2025. IFIP Conference on Human-Computer Interaction (INTERACT-2025), 20th IFIP TC 13 International Conference, Belo Horizonte, Brazil, September 8–12, 2025, Proceedings, Part II, September 8-12, Belo Horizonte, Brazil,…
  2. Gaze-Based Menu Navigation in Virtual Reality: A Comparative Study of Layouts and Interaction Techniques

    László Kopácsi; Albert Klimenko; Abdulrahman Mohamed Selim; Michael Barz; Daniel Sonntag

    In: Carmelo Ardito; Simone Diniz Junqueira Barbosa; Tayana Conte; André Freire; Isabela Gasparini; Philippe Palanque; Raquel Prates (Hrsg.). Human-Computer Interaction -- INTERACT 2025. IFIP Conference on Human-Computer Interaction (INTERACT-2025), 20th IFIP TC 13 International Conference, Belo Horizonte, Brazil, September 8–12, 2025, Proceedings, Part I, September 8-12, Belo Horizonte, Brazil,…
  3. InFL-UX: A Toolkit for Web-Based Interactive Federated Learning

    Tim Maurer; Abdulrahman Mohamed Selim; Hasan Md Tusfiqur Alam; Matthias Eiletz; Michael Barz; Daniel Sonntag

    In: Companion Proceedings of the 17th ACM SIGCHI Symposium on Engineering Interactive Computing Systems. ACM SIGCHI Symposium on Engineering Interactive Computing Systems (EICS-2025), 17th ACM SIGCHI Symposium on Engineering Interactive Computing Systems, located at EICS-2025, June 23-27, Trier, Germany, Pages 65-67, EICS '25 Companion (EICS '25 Companion), ISBN 9798400718663, Association for…

Fördergeber

BMBF - Bundesministerium für Bildung und Forschung

01IW24006

BMBF - Bundesministerium für Bildung und Forschung