Bene garsiausias istoriko darbas - tai Vilniaus akademijos istorija ir kartu su Tadu Lipinskiu parengti Senovės Lenkijos trys tomai, kurių vienas skirtas LDK istoriniam topografiniam ap rašymui. Sniadeckių biografijas, parengė jų darbų rinktines, parašė apie Barboros Radvilaitės gyvenimą, Lenkijos istoriją ir enciklope dinį leidinį Senovės Lenkija.
Balinskis paliko nemažai istorinių darbų ir apybraižų, dalis jų - rankraščiuose. Bene garsiausias istoriko darbas - tai Vilniaus akademijos istorija ir kartu su Tadu Lipinskiu parengti Senovės Lenkijos trys tomai, kurių vienas skirtas LDK istoriniam topografiniam aprašymui. Šiame darbe suregistruoti LDK miestai ir miesteliai, jų geografinė padėtis, trumpa istorinė apžvalga.
1841 m. jis tapo vienu iš enciklopedinio pobūdžio leidinio Biblioteka Warszawska steigėjų, parašė A. ir J. Sniadeckių biografijas, parengė jų darbų rinktines, parašė apie Barboros Radvilaitės gyvenimą, Lenkijos istoriją ir enciklopedinį leidinį Senovės Lenkija.