Fraunhofer-Gesellschaft
KI-Engineer:in - LLM-Infrastruktur und KI-Plattform (m/w/x)
Vollzeit/TeilzeitBefristeter Vertragmit HomeofficeBerufserfahren
Erlangen
Neuer Job?Nejo!
Dein persönlicher KI-Karriere-Agent
FRFraunhofer-Institut für Integrierte Schaltungen IIS
KI-Engineer:in – LLM-Infrastruktur und KI-Plattform (m/w/x)
Vollzeit, TeilzeitBefristeter Vertragmit HomeofficeBerufserfahren
AI/ML
Nejo KI-Zusammenfassung
Betrieb und Weiterentwicklung von KI-Infrastruktur, LLM-Gateways und lokalen RAG-Systemen für Forschungsinstitut mit 30+ Jahren Erfahrung. Sehr gute Python-Programmierkenntnisse und Erfahrung mit LLMs erforderlich. Gestaltungsfreiraum und zeitliche Flexibilität.
Deine Match-Analyse
von deinem Karriere-Agenten
Warum dieser Job zu dir passt
Mögliche Lücken
Tipps für deine Bewerbung
Anforderungen
- Studium der Informatik oder vergleichbare Fachrichtung
- Erfahrung mit Large Language Models (LLMs) und KI-Technologien
- Sehr gute Programmierkenntnisse in Python
- Erfahrung mit Nutzung und Anbindung von APIs
- Erfahrung im technischen Debugging
- Erfahrung mit Docker und Kubernetes
- Erfahrung mit Cloud-Plattformen (AWS oder Azure)
- Kenntnisse in RAG-Architekturen (von Vorteil)
- Umgang mit Vektordatenbanken (FAISS, Qdrant, Weaviate) (von Vorteil)
- Erfahrung mit API- und Gateway-Technologien (REST, LiteLLM, Kong) (wünschenswert)
- Ausgeprägtes Bewusstsein für Informationssicherheit und Datenschutz
- Berücksichtigung von Sicherheits- und Datenschutzanforderungen bei KI-Lösungen
- Ausgeprägte Kommunikations- und Beratungskompetenz
- Freude an Zusammenarbeit mit Forschungsgruppen und ISB
- Selbstständige, strukturierte und lösungsorientierte Arbeitsweise
- Eigeninitiative und Bereitschaft, Verantwortung zu übernehmen
- Offenheit für neue Technologien
- Flexibilität bei dynamischer Entwicklung im KI/LLM-Bereich
- Sehr gute Deutschkenntnisse in Wort und Schrift
- Sehr gute Englischkenntnisse in Wort und Schrift
- Entsprechende Vorkenntnisse und Erfahrungen aus Praktika, Studien- oder Abschlussarbeiten
Aufgaben
- KI-Infrastruktur betreiben und weiterentwickeln
- LLM-Gateway betreiben
- LLM-Endpunkte in Cloud-Umgebungen wie AWS Bedrock und Azure sowie lokal provisionieren
- Zuverlässigen Betrieb lokaler RAG-Systeme sicherstellen
- Geeignete LLM-Endpunkte auswählen
- LLM-Endpunkte in Abstimmung mit dem Informationssicherheitsbeauftragten der jeweils freigegebenen Informationsklassifizierung zuordnen
- Geeignete Verfahren für Zugriffskontrolle und Authentifizierung, insbesondere SSO, umsetzen
- Anforderungen aus Datenschutz und Informationssicherheit berücksichtigen
- Monitoring und Observability für die bereitgestellten KI-Services etablieren
- Logging, Verfügbarkeit und Incident-Handling verantworten
- Kosten sowie Token-Nutzung im Blick behalten
- LLMs evaluieren und benchmarken
- Systematische Tests durchführen
- Qualität der eingesetzten RAG-Systeme sicherstellen
- Geeignete Schutzmaßnahmen gegen Prompt-Injection und weitere LLM-spezifische Risiken entwickeln
- LLMOps-Prozesse für automatisierte Deployments, CI/CD sowie die Versionierung von Prompts und Konfigurationen etablieren
- Best Practices, beispielsweise für Prompt Engineering, entwickeln
- Coding-Agent-Tools und deren Konfigurationen bereitstellen
- Bei Bedarf mit Fine-Tuning, Embeddings und Vektordatenbanken arbeiten
- Aktuelle Entwicklungen im Bereich der LLM-Technologien beobachten, um deren Potenziale für das Fraunhofer IIS zu bewerten
- KI-Use-Cases am Fraunhofer IIS im Blick behalten
- Forschungsgruppen bei der Bewertung ihrer Use-Cases, der technischen Machbarkeit und der Auswahl geeigneter Lösungen beraten
- Wissenstransfer durch Workshops, Onboarding und Dokumentation unterstützen
- Sichere und effiziente Nutzung von KI-Technologien fördern
- Markt sowie die Entwicklung neuer Modelle und Technologien beobachten
- Bei Lizenz- und Vertragsthemen unterstützen
- Am Aufbau einer institutsweiten KI-Agentenplattform mitwirken
- Technischen Betrieb einer institutsweiten KI-Agentenplattform übernehmen
Berufserfahrung
ca. 1 - 4 Jahre
Ausbildung
Bachelor-Abschluss
Sprachen
Deutsch – fließend
Englisch – fließend
Tools & Technologien
Large Language Models (LLMs)KI-TechnologienPythonAPIsDockerKubernetesAWSAzureRAG-ArchitekturenFAISSQdrantWeaviateRESTLiteLLMKong
Benefits
Sonstige Vorteile
- Gestaltungsfreiraum
- Hilfsbereitschaft
Sinnstiftende Arbeit
- Eigenverantwortung
Mentoring & Coaching
- Strukturiertes Onboarding
- Coachings
Flexibles Arbeiten
- Zeitliche Flexibilität
- Hybrides Arbeiten
Gesundheits- & Fitnessangebote
- Sportliche Angebote
Team Events & Ausflüge
- Events
Modernes Büro
- Gemeinschaftsräume
Lockere Unternehmenskultur
- Wertschätzende Kultur
- Offenheit
- Vertrauensvoller Umgang
Moderne Technikausstattung
- Top Ausstattung am Arbeitsplatz
Weiterbildungsangebote
- Fachliche und persönliche Seminare
- Sprachkurse
Boni & Prämien
- Leistungs- und erfolgsabhängige variable Vergütungsbestandteile
Abwechslungsreiche Aufgaben
- Vielfalt der Kompetenzen
Von Nejo automatisch aufbereitet
Nejo hat diesen Job automatisch von der Website des Unternehmens Fraunhofer-Institut für Integrierte Schaltungen IIS erfasst und die Informationen auf Nejo mit Hilfe von KI für dich aufbereitet. Trotz sorgfältiger Analyse können einzelne Informationen unvollständig oder ungenau sein. Bitte prüfe immer alle Angaben in der Originalanzeige! Inhalte und Urheberrechte der Originalanzeige liegen beim ausschreibenden Unternehmen.
Zur Originalanzeige bei Fraunhofer-Institut für Integrierte Schaltungen IISÜber das Unternehmen
FR
ResearchErlangen
Das Unternehmen ist eines der weltweit führenden Institute für anwendungsorientierte Forschung in den Bereichen Künstliche Intelligenz, Mikroelektronik und Datenerfassung.
iis.fraunhofer.deWie gut ist dein Lebenslauf?
Nejo bewertet ihn, und bringt ihn danach gemeinsam mit dir in Bestform.
Du hast noch keinen Lebenslauf?
Noch nicht perfekt?
- UNITY AGAI Engineer (m/w/x)Vollzeitmit HomeofficeSeniorBerlin, Hamburg, Köln, München, Nürnberg, Stuttgart, Frankfurt am Main
- SINTEC Informatik GmbHKI-Softwareentwickler (m/w/x)Vollzeitmit HomeofficeSeniorFürth
- AT GmbHSenior Generative AI Engineer (m/w/x)Vollzeitmit HomeofficeSeniorMünchen, Berlin, Essen, Frankfurt am Main, Leipzig, Nürnberg
- ComputacenterData & AI Platform Expert (m/w/x)Vollzeitmit HomeofficeBerufserfahrenFrankfurt am Main, Stuttgart, Hannover, Hamburg, München, Ludwigshafen am Rhein, Nürnberg, Berlin