Stundenbasis | Befristet | Karlsruhe |
ab sofort
deep learning, computer vision
Du hast Lust, in einem innovativen Forschungsumfeld zu arbeiten? Du suchst ein tolles Team, in dem Du Dich weiterentwickeln und einbringen kannst? Und vor allem: Du willst die Zukunft aktiv mitgestalten? Dann bist Du bei uns am FZI genau richtig!
Wir sind eine gemeinnützige Forschungseinrichtung und beschäftigen uns mit spannenden und abwechslungsreichen Aufgaben der Informatik-Anwendungsforschung. Unsere Aufgabe ist neben dem Transfer unserer Forschungsergebnisse in Wirtschaft, Verwaltung und Gesellschaft auch die Aus- und Weiterbildung von zukünftigen Fach- und Führungskräften für den digitalen Wandel.
Netze mit spärlichen Experten entscheiden dynamisch, welche Parameter für jede Eingabe verwendet werden sollen. Auf diese Weise lässt sich die Kapazität des Modells drastisch erhöhen, während das feste Berechnungsbudget pro Eingabe beibehalten wird. Spärliche Mixture of Expert (MoE)-Schichten haben in letzter Zeit an Popularität gewonnen, da sie Modelle auf Milliarden und neuerdings sogar Billionen von Parametern skalieren können (siehe Fedus et al. "Switch transformers: Scaling to trillion parameter models with simple and efficient sparsity", https://arxiv.org/abs/2101.03961). Der Fokus bisher lag jedoch fast ausschließlich auf Transformermodellen für Sprachmodellierungsaufgaben. Am FZI wurde bereits untersucht, wie spärliche MoE-Schichten in CNNs eingebettet werden können (siehe Pavlitskaya et al. "Sparsely-gated MoE Layers for CNN Interpretability", https://arxiv.org/abs/2204.10598). Dieses Konzept, das für einfache Computer Vision Aufgaben evaluiert wurde, sollte nun auf komplexere Aufgaben wie die semantische Segmentierung von Verkehrsszenen angewandt und an größeren Datensätzen evaluiert werden.
Lerne hier Deinen zukünftigen Bereich und das Team kennen
Erhalte hier Einblicke zum Arbeiten am FZI
Hier erfährst Du mehr über unsere Benefits
Fachliche Fragen zur Stelle beantwortet Dir gerne Svetlana Pavlitskaya.
Jetzt bewerben Zurück