Fraunhofer-Institut für Integrierte Schaltungen IIS
KI-Engineer:in – LLM-Infrastruktur und KI-Plattform (m/w/x)
Vollzeit/TeilzeitBefristeter Vertragmit HomeofficeBerufserfahren
Erlangen
Neuer Job?Nejo!
Dein persönlicher KI-Karriere-Agent
FRFraunhofer-Gesellschaft
KI-Engineer:in - LLM-Infrastruktur und KI-Plattform (m/w/x)
Vollzeit, TeilzeitBefristeter Vertragmit HomeofficeBerufserfahren
AI/ML
Data Science
Nejo KI-Zusammenfassung
Betrieb und Weiterentwicklung des LLM-Gateways der Fraunhofer-Gesellschaft, Provisionierung von LLM-Endpunkten in Cloud- und lokalen Umgebungen. Erfahrung mit LLMs, Python, Docker und Kubernetes erforderlich. Zeitliche Flexibilität und hybrides Arbeiten.
Deine Match-Analyse
von deinem Karriere-Agenten
Warum dieser Job zu dir passt
Mögliche Lücken
Tipps für deine Bewerbung
Anforderungen
- Studium der Informatik oder vergleichbar
- Erfahrung mit Large Language Models und KI-Technologien
- Sehr gute Programmierkenntnisse in Python
- Erfahrung mit APIs und technischem Debugging
- Erfahrung mit Docker und Kubernetes
- Erfahrung mit Cloud-Plattformen (AWS/Azure)
- Kenntnisse in RAG-Architekturen von Vorteil
- Umgang mit Vektordatenbanken (FAISS, Qdrant, Weaviate) von Vorteil
- Erfahrung mit API- und Gateway-Technologien (REST, LiteLLM, Kong) wünschenswert
- Bewusstsein für Informationssicherheit und Datenschutz
- Berücksichtigung von Sicherheits- und Datenschutzanforderungen
- Ausgeprägte Kommunikations- und Beratungskompetenz
- Freude an Zusammenarbeit mit Forschungsgruppen und ISB
- Selbstständige, strukturierte und lösungsorientierte Arbeitsweise
- Eigeninitiative und Verantwortungsbereitschaft
- Offenheit für neue Technologien im KI/LLM-Bereich
- Flexibilität in dynamischem KI/LLM-Umfeld
- Sehr gute Deutschkenntnisse in Wort und Schrift
- Sehr gute Englischkenntnisse in Wort und Schrift
- Geeignet für Berufsanfänger mit Vorkenntnissen/Praktika/Arbeiten
Aufgaben
- Das IIS-zentrale LLM-Gateway betreiben und weiterentwickeln
- LLM-Endpunkte in Cloud-Umgebungen wie AWS Bedrock und Azure sowie lokal provisionieren
- Den zuverlässigen Betrieb lokaler RAG-Systeme sicherstellen
- Geeignete LLM-Endpunkte auswählen und in Abstimmung mit dem Informationssicherheitsbeauftragten (ISB) der jeweils freigegebenen Informationsklassifizierung zuordnen
- Geeignete Verfahren für Zugriffskontrolle und Authentifizierung, insbesondere SSO, umsetzen
- Anforderungen aus Datenschutz und Informationssicherheit berücksichtigen
- Monitoring und Observability für die bereitgestellten KI-Services etablieren
- Logging, Verfügbarkeit und Incident-Handling verantworten
- Kosten sowie Token-Nutzung im Blick behalten
- LLMs evaluieren und benchmarken
- Systematische Tests durchführen
- Die Qualität der eingesetzten RAG-Systeme sicherstellen
- Geeignete Schutzmaßnahmen gegen Prompt-Injection und weitere LLM-spezifische Risiken entwickeln
- LLMOps-Prozesse für automatisierte Deployments, CI/CD sowie die Versionierung von Prompts und Konfigurationen etablieren
- Best Practices, beispielsweise für Prompt Engineering, entwickeln
- Coding-Agent-Tools und deren Konfigurationen bereitstellen
- Bei Bedarf mit Fine-Tuning, Embeddings und Vektordatenbanken arbeiten
- Aktuelle Entwicklungen im Bereich der LLM-Technologien beobachten, um deren Potenziale für das Fraunhofer IIS zu bewerten
- Die KI-Use-Cases am Fraunhofer IIS im Blick behalten
- Forschungsgruppen bei der Bewertung ihrer Use-Cases, der technischen Machbarkeit und der Auswahl geeigneter Lösungen beraten
- Den institutsweiten Wissenstransfer durch Workshops, Onboarding und Dokumentation unterstützen
- Die sichere und effiziente Nutzung von KI-Technologien fördern
- Den Markt sowie die Entwicklung neuer Modelle und Technologien beobachten
- Bei Lizenz- und Vertragsthemen unterstützen
- Am Aufbau einer institutsweiten KI-Agentenplattform mitwirken und deren technischen Betrieb übernehmen
Berufserfahrung
ca. 1 - 4 Jahre
Ausbildung
Bachelor-Abschluss
Sprachen
Deutsch – fließend
Englisch – fließend
Tools & Technologien
Large Language ModelsKI-TechnologienPythonAPIsDockerKubernetesAWSAzureRAG-ArchitekturenFAISSQdrantWeaviateRESTLiteLLMKong
Benefits
Boni & Prämien
- Variable Vergütungsbestandteile
Flexibles Arbeiten
- Zeitliche Flexibilität
- Hybrides Arbeiten
Gesundheits- & Fitnessangebote
- Sportliche Angebote
Team Events & Ausflüge
- Events
Modernes Büro
- Gemeinschaftsräume
Lockere Unternehmenskultur
- Wertschätzende Kultur
- Offenheit
- Vertrauensvoller Umgang
Sonstige Vorteile
- Hilfsbereitschaft
Moderne Technikausstattung
- Top Ausstattung am Arbeitsplatz
Weiterbildungsangebote
- Fachliche und persönliche Seminare
- Sprachkurse
Mentoring & Coaching
- Coachings
Von Nejo automatisch aufbereitet
Nejo hat diesen Job automatisch von der Website des Unternehmens Fraunhofer-Gesellschaft erfasst und die Informationen auf Nejo mit Hilfe von KI für dich aufbereitet. Trotz sorgfältiger Analyse können einzelne Informationen unvollständig oder ungenau sein. Bitte prüfe immer alle Angaben in der Originalanzeige! Inhalte und Urheberrechte der Originalanzeige liegen beim ausschreibenden Unternehmen.
Zur Originalanzeige bei Fraunhofer-GesellschaftÜber das Unternehmen
FR
ResearchErlangen
Das Unternehmen ist eine der führenden Organisationen für anwendungsorientierte Forschung mit 76 Instituten in Deutschland.
fraunhofer.deWie gut ist dein Lebenslauf?
Nejo bewertet ihn, und bringt ihn danach gemeinsam mit dir in Bestform.
Du hast noch keinen Lebenslauf?
Noch nicht perfekt?
- UNITY AGAI Engineer (m/w/x)Vollzeitmit HomeofficeSeniorBerlin, Hamburg, Köln, München, Nürnberg, Stuttgart, Frankfurt am Main
- SINTEC Informatik GmbHKI-Softwareentwickler (m/w/x)Vollzeitmit HomeofficeSeniorFürth
- ComputacenterData & AI Platform Expert (m/w/x)Vollzeitmit HomeofficeBerufserfahrenFrankfurt am Main, Stuttgart, Hannover, Hamburg, München, Ludwigshafen am Rhein, Nürnberg, Berlin
- AT GmbHSenior Generative AI Engineer (m/w/x)Vollzeitmit HomeofficeSeniorMünchen, Berlin, Essen, Frankfurt am Main, Leipzig, Nürnberg