TY - CHAP TI - Symbolische Kontrolle für subsymbolische Künstliche Intelligenz? AU - Benzmüller, Christoph PY - 2025 T2 - Künstliche Intelligenz und Wir : Stand, Nutzung und Herausforderungen der KI SP - 211-226 PB - Springer Vieweg CY - Berlin SN - 9783662715666 DO - 10.1007/978-3-662-71567-3_11 UR - https://fis.uni-bamberg.de/handle/uniba/110724 LA - deu AB - Forschungsaktivitäten in Richtung starker Künstlichen Intelligenz (KI) bzw. Artificial General Intelligence (AGI) haben aktuell stark an Fahrt aufgenommen. Ausgangspunkt sind dabei beachtliche Fortschritte vor allem im Bereich der datengetriebenen subsymbolischen KI (z. B. dem tiefen maschinellen Lernen), aber auch in der regelbasierten symbolischen KI. Mit solchen Aktivitäten im Einklang stehen sollte das Bestreben nach verantwortungsvoller KI, oder besser noch, nach sicherer KI. Selbst wenn eine starke KI (zumindest aus meiner Sicht) nicht unmittelbar absehbar ist, sollte diesem Aspekt größte Aufmerksamkeit geschenkt werden. Es ist nämlich insbesondere der unreflektierte Einsatz leistungsfähiger unvollkommener KI-Systeme in sehr kritischen Anwendungsgebieten (einschließlich des militärischen Bereichs), der zunehmend Anlass zur Sorge bereitet. In diesem Kapitel skizziere ich meine Position zu den Themen starke und sichere KI, führe dazu Äußerungen aus vorherigen eigenen Arbeiten zusammen und ergänze diese. KW - - ER -