Effizienz oder Risiko?

Herr Willer, die meisten Unternehmen nutzen Software, um Prozesse effizienter zu gestalten; Bedenken gibt es aber hinsichtlich Sicherheitsrisiken. Wird das Thema eher unter- oder überschätzt?
Ich würde sagen: In der Theorie wird Sicherheit oft ernst genommen, in der Praxis aber trotzdem unterschätzt. Viele Unternehmen wissen natürlich, dass Sicherheitsrisiken existieren. Trotzdem liegt der Fokus im Alltag häufig zuerst auf Geschwindigkeit, Kosten und Funktionalität. Die Software soll schnell fertig werden, Prozesse vereinfachen und möglichst direkt Ergebnisse liefern.
Das Problem ist: Sicherheit sieht man oft erst dann, wenn etwas schiefgeht. Eine gute Nutzeroberfläche oder eine funktionierende Automatisierung erkennt man sofort. Ob Berechtigungen sauber gesetzt sind, Daten richtig geschützt werden oder Schnittstellen sicher angebunden sind, sieht man auf den ersten Blick meistens nicht.
Gerade deshalb ist das Thema so wichtig. Software, die Prozesse effizienter macht, kann gleichzeitig neue Angriffsflächen schaffen. Je stärker Systeme miteinander verbunden sind, desto wichtiger werden saubere Architektur, Zugriffskonzepte, Datenschutz und regelmäßige Prüfungen. Sicherheit darf nicht erst am Ende geprüft werden, sondern muss von Anfang an mitgedacht werden.

Entstehen Sicherheitslücken eher durch den Weiterbetrieb alter oder der Einführung neuer Software? Welche konkreten Vorgehensweisen gibt es, um späteren Problemen vorbeugen zu können?
Beides kann problematisch sein. Alte Software ist oft riskant, weil sie nicht mehr regelmäßig aktualisiert wird, veraltete Abhängigkeiten nutzt oder über Jahre immer weiter angepasst wurde, ohne dass die Architektur sauber mitgewachsen ist. Solche Systeme funktionieren zwar noch, sind aber häufig schwer wartbar und anfällig.
Neue Software bringt andere Risiken mit. Gerade wenn sie unter Zeitdruck entsteht oder sehr schnell mit KI-Unterstützung gebaut wird, können Sicherheitsfragen zu kurz kommen. Dann funktioniert die Anwendung vielleicht, aber Rollen, Rechte, Datenvalidierung, Fehlerbehandlung oder Schnittstellen wurden nicht gründlich genug durchdacht.
Vorbeugen kann man vor allem durch Struktur. Dazu gehören klare Anforderungen, saubere Dokumentation, regelmäßige Code-Reviews, Sicherheitsprüfungen, Updates, Backups und ein durchdachtes Rechtekonzept. Besonders wichtig ist auch, dass man nicht nur testet, ob eine Funktion läuft, sondern auch, was passiert, wenn jemand sie falsch, unerwartet oder missbräuchlich nutzt.
Gute Softwareentwicklung bedeutet deshalb nicht nur, Features zu bauen. Es bedeutet auch, Risiken früh zu erkennen und Systeme so zu entwickeln, dass sie langfristig stabil, sicher und wartbar bleiben.

Gerade im Hinblick auf KI-Tools fällt auch immer öfter der Begriff »Vibe-Coding«. Was ist damit genau gemeint und inwiefern birgt das Vorgehen Risiken?
Vibe-Coding beschreibt im Grunde eine Arbeitsweise, bei der man mit KI sehr schnell Software erzeugt, ohne den Code im Detail wirklich zu verstehen. Man gibt der KI Anweisungen, lässt sich Funktionen bauen und entscheidet eher nach Gefühl, ob das Ergebnis passt. Für Prototypen oder erste Ideen kann das hilfreich sein. Gefährlich wird es aber, wenn daraus produktive Software entsteht, die in echten Unternehmensprozessen eingesetzt wird.
Das größte Risiko ist, dass man der KI blind vertraut. KI kann sehr überzeugend wirken, auch wenn sie Fehler macht oder unsichere Lösungen vorschlägt. Gerade in sensiblen Bereichen wie Buchhaltung, Kundendaten, internen Auswertungen, Zahlungsprozessen oder rechtlich relevanten Abläufen kann das schnell problematisch werden. Wenn dort Berechnungen falsch sind, Daten nicht sauber geschützt werden oder Zugriffsrechte fehlen, entstehen nicht nur technische Probleme, sondern echte wirtschaftliche und rechtliche Risiken.
KI kann Code erzeugen, der auf den ersten Blick funktioniert, aber versteckte Schwachstellen enthält. Zum Beispiel unsichere Schnittstellen, fehlende Zugriffskontrollen, falsche Datenvalidierung oder eine unklare Fehlerbehandlung. Wer den Code nicht versteht, erkennt diese Probleme oft nicht.
Für mich ist KI deshalb ein starkes Werkzeug, aber kein Ersatz für technisches Verständnis. Wer mit KI entwickelt, muss trotzdem prüfen, testen, hinterfragen und Verantwortung übernehmen. Sonst baut man nicht schneller sichere Software, sondern schneller unsichere Software.

Auch etablierte Firmen wie KPMG und Ernst & Young mussten in letzter Zeit Fehler im Umgang mit KI-Tools einräumen. Welchen Themen wird im Hinblick auf die Nutzung nach wie vor zu wenig Beachtung geschenkt?
Zu wenig Beachtung bekommen vor allem Verantwortung, Kontrolle und Datenqualität. Viele sprechen darüber, wie viel schneller KI Prozesse machen kann. Weniger gesprochen wird darüber, wer die Ergebnisse prüft, wer am Ende haftet und welche Folgen ein Fehler haben kann.
Gerade in sensiblen Bereichen wie Buchhaltung, Finanzen, Steuern, Recht oder Kundendaten darf man KI nicht blind vertrauen. Wenn dort falsche Zahlen übernommen, vertrauliche Daten falsch verarbeitet oder Ergebnisse ungeprüft weiterverwendet werden, kann das für Unternehmen schnell teuer werden.
Ein großes Thema ist auch der Umgang mit sensiblen Informationen. Unternehmen müssen sehr genau wissen, welche Daten sie in KI-Tools eingeben, wo diese Daten verarbeitet werden und ob sie damit rechtlich und sicherheitstechnisch sauber umgehen.
Deshalb reicht es nicht, KI einfach einzuführen und auf Effizienzgewinne zu hoffen. Es braucht klare Regeln, menschliche Kontrolle, fachliche Prüfung und definierte Verantwortlichkeiten. KI kann sehr hilfreich sein, aber sie muss geführt, geprüft und begrenzt werden. Vor allem dort, wo Fehler direkte finanzielle, rechtliche oder sicherheitsrelevante Folgen haben können.

KI-Inhalte können immer weniger von echten Inhalten unterschieden werden. Inwiefern können Software-Lösungen, jetzt oder in Zukunft, KI-Fehler und Halluzinationen erkennen?
Software kann dabei helfen, KI-Fehler und Halluzinationen besser zu erkennen, aber sie wird das Problem nicht vollständig lösen. Gerade bei Fakten, Zahlen oder rechtlich relevanten Aussagen können Systeme heute schon prüfen, ob eine Aussage mit verlässlichen Quellen, Datenbanken oder internen Dokumenten übereinstimmt.
Wichtig ist dabei der Unterschied zwischen freier Generierung und kontrollierter Nutzung. Wenn eine KI einfach aus dem Modell heraus antwortet, ist das Risiko für Fehler höher. Wenn sie dagegen auf geprüfte Datenquellen zugreift, Quellen angibt und ihre Aussagen gegen bestehende Informationen abgeglichen werden, wird das Ergebnis deutlich zuverlässiger. In Zukunft werden solche Prüfmechanismen wichtiger werden. Zum Beispiel automatische Faktenchecks, Quellenvalidierung, Plausibilitätsprüfungen oder Systeme, die ungewöhnliche Aussagen markieren. Trotzdem bleibt menschliche Kontrolle entscheidend. Software kann Warnsignale liefern, aber sie ersetzt nicht die Verantwortung des Menschen, besonders bei sensiblen Entscheidungen.

Inwieweit wird der derzeitige Trend zur KI andauern? Wie wahrscheinlich ist es aus Ihrer Sicht, dass zukünftig durch Menschen generierte Inhalte zum entscheidenden Wettbewerbsvorteil werden?
Ich glaube, KI wird kein kurzfristiger Trend bleiben. Dafür ist der Nutzen zu groß. KI wird dauerhaft Teil von Softwareentwicklung, Marketing, Support, Analyse und vielen Geschäftsprozessen werden. Die Frage ist nicht, ob Unternehmen KI nutzen, sondern wie bewusst und verantwortungsvoll sie es tun.
Gleichzeitig glaube ich, dass menschliche Qualität wieder wichtiger wird. Je mehr Inhalte, Designs, Tools und Texte mit KI erzeugt werden, desto stärker ähneln sich viele Ergebnisse. Man merkt oft, wenn etwas nur generiert wurde, aber keine echte Erfahrung, keine eigene Haltung und kein klares Verständnis für den Nutzer dahintersteht.
Genau dadurch kann menschliche Arbeit wieder zum Wettbewerbsvorteil werden. Nicht im Sinne von »ohne KI arbeiten«, sondern im Sinne von: KI nutzen, aber mit eigener Expertise, Kreativität, Strategie und Verantwortung verbinden.
In der Softwareentwicklung wird das besonders deutlich. KI kann Umsetzung und Geschwindigkeit enorm verbessern. Aber wer nicht weiß, was gebaut werden sollte, baut mit KI nur schneller am Markt oder an der Sicherheit vorbei. Entscheidend bleibt also der Mensch, der die richtigen Fragen stellt, Qualität bewertet und aus Technologie echten Nutzen macht.

Eines ist auf jeden Fall klar: KI ist nicht mehr aufzuhalten. Die Frage ist nur, ob wir lernen, sie richtig zu nutzen, oder ob wir zulassen, dass blinde Nutzung am Ende mehr Schaden anrichtet als Nutzen schafft.