Musik-Tool komponiert Sound-Tracks

FH St. Pölten entwickelt Kompositions-Tool mit Fingerspitzengefühl

Musik für Filme und Games einfach selbst komponieren. Dies wird nun möglich durch das von der Fachhochschule St. Pölten entwickelte Software-Framework GeMMA. Dieses nützt ausgeklügelte Algorithmen, um die Kompositionswünsche der NutzerInnen umzusetzen. Die Einsatzmöglichkeiten von GeMMA stießen bereits vor Kurzem auf internationalen Konferenzen in Laibach und Korfu auf großes Interesse. Tatsächlich ist das Framework auch eine Basis für pädagogisch wertvolle Applikationen. Diese können zukünftig Kindern und Jugendlichen einen spielerischen Zugang zu klassischer Musik sowie Jazz eröffnen. Damit entwickelt die FH St. Pölten erneut Technologien, die zum interaktiven Entdecken von Komposition und Musik einladen.

Bewegte Bilder bewegen Gemüter erst mit dem richtigen Soundtrack. Doch woher nehmen, ohne zu stehlen? Nun wurde an der FH St. Pölten ein Software-Framework namens GeMMA (Generative Music for Media Applications) entwickelt, das Musikwünsche durch Beschreibung in Worten in eigens komponierte Musikstücke verwandelt. FH-Prof. DI Hannes Raffaseder, Leiter des ICM/T – Institut für CreativeMedia/Technologies – über GeMMA: „Die Einsatzmöglichkeiten reichen von der Erstellung von Soundtracks, Games und Imagevideos bis hin zur pädagogischen Musikvermittlung.“

DAS AUGE HÖRT MIT

Zum Komponieren mit GeMMA brauchen NutzerInnen neben dem Bildmaterial, das vertont werden soll, ein wichtiges Hilfsmittel: die Sprache. Den Kompositionsprozess beginnen NutzerInnen nämlich mit sogenannten „semantischen Beschreibungen“ der einzelnen Szenen im Film, Video oder Spiel. Diese lassen sich aus einer Vielzahl an Möglichkeiten wie z. B. „Liebe“, „Krieg“ oder „Tod“ in einem Pulldown-Menü anwählen und festlegen. Aus diesen Einzel-Beschreibungen erstellt das Software-Framework ein Beschreibungsdokument. Es „erkennt“ diese darin zusammengefassten Annotationen, indem es sie mit der eigens von der FH St. Pölten entwickelten Datenbank „Clip Library“ vergleicht. In dieser befinden sich 500 Szene-Clips von 250 Blockbustern verschiedener Genres – von Madagaskar bis Matrix – gemeinsam mit Soundtracks und Beschreibungen dafür. Die Komposition erfolgt mithilfe von Algorithmen und auf Basis mathematisch formulierter Gesetzmäßigkeiten von Kompositionen, welche je nach Genre variieren. Nach Fertigstellung erhalten NutzerInnen eine Komposition basierend auf ihrem Beschreibungsdokument. Das Musikstück wird als MIDI-Datei ausgegeben und darf, als Neukomposition, lizenzfrei genutzt werden. Alternativ können NutzerInnen auch Referenzstücke als MIDI-Dateien an das System übergeben. Diese werden auf ihre Struktur hin analysiert und zu neuen Stücken verarbeitet, wobei NutzerInnen die „Distanz“ bzw. „Ähnlichkeit“ zu dem vorgegebenen Musikstück selbst wählen und einstellen können. Die Gestaltung bleibt also, ob beim Annotieren oder beim Komponieren auf Basis eines Referenzstücks, immer in den Händen der NutzerInnen.

KOMPOSITION – EIN KINDERSPIEL

Bei der Entwicklung der Algorithmen von GeMMA achtete das Team der FH St. Pölten von Beginn an darauf, dass diese auch für weitere Anwendungen genutzt werden können. Ein Beispiel dafür ist die Applikation „JazzPainter“. Mithilfe dieser Applikation können NutzerInnen auf einem Tablet-PC ein virtuelles Jazz-Ensemble aus Bass, Gitarre, Klavier und Schlagzeug interaktiv zum Klingen bringen. Durch einfache Fingerbewegungen werden dabei die Instrumente in Relation zueinander auf dem Bildschirm positioniert: Nach „hinten“ gestellte Instrumente werden hörbar leiser, während nach vorne gezogene Instrumente lauter werden. Möglich macht dies GeMMA, das im Hintergrund auf eine Datenbank mit Jazz-Standard-Melodien zugreift und laufend auf Basis der auf der Oberfläche veränderten Parameter Musik generiert. Nach zwei Jahren umfangreicher Entwicklungsarbeit wurde nun auf internationalen Konferenzen in Laibach und Korfu ein Teil der Projektergebnisse einem internationalen Fachpublikum vorgestellt. Auch Institutionen, die sich mit Musikvermittlung beschäftigen, haben das Potenzial softwaregestützter Lernangebote längst erkannt. So entwickelt die FH St. Pölten derzeit eine Software-Anwendung für den schulischen Musikunterricht gemeinsam mit dem Ernst-Krenek-Forum Krems: Kinder und Jugendliche können damit künftig unterschiedliche Kompositionsmodelle spielerisch verstehen. Möglich wird dies durch eigens dafür konzipierte Benutzeroberflächen, die zum spielerischen Entdecken einladen.

Über die Fachhochschule St. Pölten
Die Fachhochschule St. Pölten ist Anbieterin praxisbezogener und leistungsorientierter Hochschulausbildung in den Themengebieten Medien, Informatik, Verkehr, Gesundheit und Soziales. In mittlerweile 16 Studiengängen werden rund 2.000 Studierende betreut. Neben der Lehre widmet sich die FH St. Pölten intensiv der Forschung. Die wissenschaftliche Arbeit erfolgt innerhalb der Kompetenzfelder Medientechnik, Medienwirtschaft, IT-Sicherheit, Simulation, Schienenverkehr, Gesundheit und Soziales. Es erfolgt ein stetiger Austausch zwischen Studiengängen und Instituten, in denen laufend praxisnahe und anwendungsorientierte Forschungsprojekte entwickelt und umgesetzt werden.
Wissenschaftlicher Kontakt:
FH-Prof. DI Hannes Raffaseder
Fachhochschule St. Pölten
ICM/T – Institut für CreativeMedia/Technologies Matthias-Corvinus-Str. 15
3100 St. Pölten
T +43 / (0)2742 / 313 228 – 616
E hannes.raffaseder@fhstp.ac.at
W http://www.fhstp.ac.at
Redaktion & Aussendung:
PR&D – Public Relations für Forschung & Bildung Mariannengasse 8
1090 Wien
T +43 / (0)1 / 505 70 44
E contact@prd.at
W http://www.prd.at