Diplômé de la Guildhall School of Music and Drama (classe de György Pauk) et de l'Académie Franz Liszt de Budapest, où il étudie auprès de Ferenc Halàsz, le violoniste Gyula Stuller se perfectionne auprès de Nathan Milstein, Sándor Végh, Lóránt Fenyves et Tibor Varga.
Lauréat de plusieurs concours internationaux, dont le concours Joseph Szigeti à Budapest et le concours Rodolfo Lipizer à Gorizia, il devient l'assistant de Tibor Varga à Sion en 1986, après avoir remporté le premier Prix du concours portant son nom. En 1990, il est nommé premier violon solo de l'Orchestre de Chambre de Lausanne.
Gyula Stuller enseigne le violon au niveau professionnel depuis 1996, d'abord sous l'égide du Conservatoire de Fribourg, puis (depuis 2008) sous la bannière de l'HEMU – Haute École de Musique. De 2002 à 2007, il a également été professeur au Conservatoire supérieur et à l'Académie de Musique Tibor Varga de Sion.
Entre 2007 et 2014, il a été directeur artistique de l'Académie musicale de Morges. Actif comme soliste, il se consacre également à la musique de chambre.