Merkblatt zum Einsatz von Generativer KI an der HSLU-I

FH Zentralschweiz Merkblatt zum Einsatz von Generativer KI an der HSLU-I Dieses Merkblatt dient als Hilfestellung für den verantwortungsvollen Einsatz von generativer Künstlicher Intelligenz (KI) im Alltag an der Hochschule Luzern – Informatik (HSLU). Informatik 2Inhalt Was ist Generative KI? → 3 Geltungsbereich → 4 Hinweise zur Dateneingabe → 5 Umgang mit KI-generierten Ausgaben → 6 Chancen und Risiken → 7 Beispiele → 8 Häufig gestellte Fragen (FAQ) → 9 Anlaufstellen → 10 3 → Was ist Generative KI? Generative KI ist eine Unterform der Künstlichen Intelligenz, die neue Inhalte erzeugen kann: Texte, Bilder, Videos, Audio oder Programmiercode. Besonders verbreitet sind KI-Chatbots wie ChatGPT (OpenAI), Copilot (Microsoft) oder Gemini (Google). Sie können Spracheingaben verarbeiten und menschenähnliche Antworten erzeugen – ohne jedoch im menschlichen Sinn zu «verstehen». Die Ergebnisse beruhen auf statistischen Berechnungen, was zu Fehlern und Verzerrungen führen kann. KI KI leer Wie funktioniert KI? Mehrstufig: Eingabe (0) Aufbau KI (1) Training Trainingsdaten (2) Nutzung Auftrag zerlegen mit Kontext ähnliches zusammenstellen Ausgabe aufbauen Ausgabe Viele andere Eingaben ? Merkblatt Generative KI 4 → Geltungsbereich Das Merkblatt gilt für alle Mitglieder der HSLU – I primär Studierende, Lehrende und Forschende – und regelt den verantwortungsvollen Einsatz von generativen KI-Tools im Hochschulkontext. Es findet Anwendung in: – Studium & Lehre: Unterstützung bei Hausarbeiten, Präsentationen, Übersetzungen, Recherche, Programmierung, Prüfungsvorbereitung sowie Erstellung von Lehrmaterialien, Aufgaben und Feedback. – Forschung: Einsatz für Literaturrecherche, Schreiben, Datenanalyse, Hypothesenbildung, Programmierung oder Visualisierung unter Beachtung von wissenschaftlichen Standards, Datenschutz, Urheberrecht und Transparenz. – Verwaltung: Nutzung für Effizienzsteigerung bei administrativen Aufgaben (z. B. Terminplanung, Dokumentenerstellung, Standardanfragen, Bewerbungen, Protokolle). Für externe Forschungsoder Kooperationsprojekte können zusätzliche Regeln gelten. Merkblatt Generative KI Informatik 5 → Hinweise zur Dateneingabe ! Keine sensiblen Daten (Personendaten, vertrauliche oder dem Berufsgeheimnis unterstehende Informationen) in KI-Tools eingeben. ! Texte ggf. anonymisieren oder pseudonymisieren – jedoch so, dass keine Rückschlüsse auf Betroffene möglich sind. ! Vorsicht bei Eingabe von Bildern, Fotos, Audio, Video oder Code. ! Merkblatt Generative KI 6 → Umgang mit KI-generierten Ausgaben Generative KI kann fehlerhafte, erfundene («halluzinierte») oder voreingenommene Ergebnisse liefern. Daher gilt: – Kritische Prüfung: Ergebnisse immer sorgfältig auf Richtigkeit, Vollständigkeit und Diskriminierungsfreiheit prüfen. – Vergleich: Nach Möglichkeit mit anderen verlässlichen Quellen abgleichen. – Sachgerechte Anpassung: Inhalte nicht ungeprüft übernehmen; an Vorgaben und Schreibweisen der HSLU anpassen. – Transparenz: KI-Unterstützung möglichst kenntlich machen (z. B. «Dieser Text wurde mit Unterstützung von KI erstellt.»). – Sorgfaltspflicht: Im Zweifel Vieraugenprinzip anwenden. KI Eingabe Ausgabe Andere Eingaben Andere Ausgaben Wohin geht meine Eingabe? Woher kommt die Ausgabe? Merkblatt Generative KI 7 → Chancen und Risiken Chancen: – Effizienzsteigerung durch schnelle Textentwürfe, Strukturierung, Übersetzungen, Korrekturen, Zusammenfassungen, Visualisierungen oder Code-Inspiration. – Unterstützung bei Recherche, Ideenfindung und Entscheidungsprozessen. Risiken: – Fehlende Nachvollziehbarkeit und Transparenz der Ergebnisse. – Falsche, irrelevante oder diskriminierende Inhalte möglich. – Datenschutzrisiken durch Übermittlung vertraulicher Informationen. – Potenzielle Urheberrechtsverletzungen. Risiko-Betrachtung: (a) (b) (c) Unbekannte Trainingsdaten Trainingsdaten Problem → Juristisch-ethische Diskussion Unsinniges Generiertes → Output kontrollieren Anfrage wird zu Trainingsdaten → Differenzierte Betrachtung Viele andere nutzen das Merkblatt Generative KI ! 8 → Beispiele Zulässig: Zusammenfassen von veröffentlichten Texten. Formulierungshilfen für Texte oder E-Mails. Erste Orientierung zu einem Thema (ähnlich Google/Wikipedia). Generierung von Bildern für Präsentationen. Inspiration für Code oder Foliensätze. Nicht zulässig: Verarbeitung vertraulicher oder geheimer Dokumente. Übersetzung von Lebensläufen oder anderen personenbezogenen Daten. Ungeprüftes Copy/Paste von KI-Antworten. Eingabe von urheberrechtlich geschütztem Code oder vertraulicher Software. Merkblatt Generative KI 9 → Häufig gestellte Fragen (FAQ) Kann ich ChatGPT für meine Bachelorarbeit an der HSLU I nutzen? Ja, grundsätzlich ist die Nutzung von KI-Tools wie ChatGPT als unterstützendes Hilfsmittel zulässig. Die Eigenleistung bleibt jedoch prüfungsrelevant: Sie sind für Inhalt, Richtigkeit und Relevanz der Arbeit weiterhin selbst verantwortlich. Der Einsatz von KI-Tools muss transparent gemacht und im Methodenteil oder Anhang der Arbeit dokumentiert werden. Allerdings gibt der Regel Vorgaben vom Betreuer/in, ob und in welchem Umfang KI eingesetzt werden darf. Dürfen sensible Daten in KI-Tools eingegeben werden? Nein, geheime, vertrauliche oder personenbezogene Daten dürfen nicht in öffentliche KI-Systeme eingegeben werden. Dies dient dem Schutz Ihrer Privatsphäre und der Einhaltung des Datenschutzgesetzes. Falls die Nutzung dennoch unerlässlich ist, müssen die Daten anonymisiert oder pseudonymisiert werden und über eine sichere, von der HSLU bereitgestellte Infrastruktur verarbeitet werden. Darf ich KI-generierte Inhalte in Präsentationen oder Berichten ohne Kennzeichnung verwenden? Nein, alle Inhalte, die (ganz oder teilweise) mit Unterstützung eines KI-Tools erstellt wurden, müssen transparent gekennzeichnet werden. Das gilt sowohl für Texte als auch für Bilder, Code oder Übersetzungen. Beispiel: «Dieses Bild wurde mit Unterstützung von ChatGPT Plus generiert.» Allerdings gibt es bei Aufgaben oder Präsentationen in der Regel Vorgaben, ob und in welchem Umfang KI eingesetzt werden darf. Ist es erlaubt, bestehende Software-Quellcodes in KI-Tools hochzuladen, um Fehler zu finden? Nein, das Hochladen von internem, vertraulichem oder urheberrechtlich geschütztem Code in öffentliche KI-Tools ist nicht zulässig. Die Daten könnten gespeichert und missbräuchlich verwendet werden. Was passiert, wenn ich gegen die Regeln für den KI-Einsatz verstosse? Ein unsachgemässer oder missbräuchlicher Einsatz von KI-Tools kann disziplinarische, allenfalls auch rechtliche Folgen nach sich ziehen, insbesondere bei Verstössen gegen Prüfungsordnungen, Urheberrecht oder Datenschutzvorgaben. Merkblatt Generative KI ?