Diplômé de Guildhall School of Music and Drama (classe de György Pauk) et de l'Académie Franz Liszt de Budapest, où il étudie auprès de Ferenc Halàsz, le violoniste Gyula Stuller se perfectionne auprès de Nathan Milstein, Sándor Végh, Lóránt Fenyves et Tibor Varga.
Lauréat de plusieurs concours internationaux – parmi lesquels les concours Joseph Szigeti à Budapest et Rodolpho Lipizer à Gorizia – il devient l'assistant de Tibor Varga à Sion en 1986 à la suite du 1er Prix décroché lors du concours qui porte son nom. En 1990, il est nommé 1er violon solo de l'Orchestre de Chambre de Lausanne.
Gyula Stuller enseigne le violon au niveau professionnel depuis 1996, d'abord sous l'égide du Conservatoire de Fribourg, puis (depuis 2008) sous la bannière de la Haute Ecole de Musique de Lausanne (HEMU). De 2002 à 2007, il a également été professeur au Conservatoire Supérieur et Académie de Musique Tibor Varga de Sion.
Entre 2007 et 2014, il a été directeur artistique de l'Académie Musicale de Morges. Actif comme soliste, il est également très engagé dans le domaine de la musique de chambre.