Ów "chór" z początku oznaczał jedną osobę - urodzonego w 1983 r. wokalistę, kompozytora, autora tekstów oraz producenta Jannisa Noya Makrigiannisa (Jannis jest pochodzenia grecko - indonezyjsko - duńskiego).
Po rozwiązaniu w 2006 r. swej poprzedniej grupy - Lake Placid, Jannis spędził kilka miesięcy na greckiej wyspie Rodos, gdzie zaczął pracować nad nowym materiałem. Po powrocie do Kopenhagi, przy współpracy kilku zaprzyjaźnionych muzyków, kontynuował pracę nad nowymi kompozycjami - ale już w studio nagraniowym.
W 2007 r. ukazał się zawierający cztery piosenki Jannisa minialbum wydany pod nazwą "Choir of Young Believers". Kolejny EP - "Burn The Flag" - zebrał doskonałe recenzje, a dzięki promocji piosenki "Sharpen Your Knife" w III programie duńskiego radia (P3) Choir Of Young Believers dał się poznać szerszej publiczności. Jannis - tylko na podstawie wspomnianego EP - uhonorowany został przyznawaną przez dziennikarzy nagrodą Steppeulven oraz nagrodą radiostacji P3 za najbardziej obiecujący debiut.
Płyta This Is For The White In Your Eyes ukazała się we wrześniu następnego roku, pojawiając się na 14 pozycji listy najlepiej sprzedających się albumów i pozostając na niej przez 2 tygodnie. Nie będąc wielkim sukcesem komercyjnym, album spotkał się z entuzjastycznym przyjęciem krytyki, przyniósł również młodemu muzykowi liczne wyróżnienia, w tym sześć nominacji do nagród duńskiego przemysłu muzycznego - Danish Music Awards (w rezultacie Jannis otrzymał nagrodę przeznaczoną dla najlepszego debiutanta roku).
W 2009 r. Choir Of Young Believers wystąpił na SXSW - organizowanym w Austin w Teksasie festiwalu muzyki "niezależnej", co zaowocowało kontraktem w amerykańską wytwórnią Ghostly International i wydaniem debiutanckiego albumu w Stanach Zjednoczonych.
W swej muzyce Jannis miesza skromne aranżacje folkowe z ambitnym orkiestralnym popem, najbardziej charakterystyczną cechą nagrań nagrań jest jego głos i tworzone przez niego harmonie wokalne.
Choir Of Young Believers na koncertach prezentuje się rozmaicie - czasem jest to tylko duet lub trio, a czasem na scenie pojawia się nawet i ośmiu muzyków.
W lutym 2012 r. ukazał się drugi album Choir of Young Believers, zatytułowany Rhine Gold. Płyta, podobnie jak jej poprzedniczka, zebrała doskonałe recenzje i zadebiutowała na szóstym miejscu listy najlepiej sprzedających się duńskich albumów.
Pierwszym singlem z płyty była piosenka Patricia's Thirst.
W lutym 2014 r. zespół wystąpił w Polsce, grając w pierszej części łódzkiego koncertu brytyjskiej grupy Depeche Mode.
