Bene garsiausias istoriko darbas - tai Vilniaus akademijos istorija ir kartu su Tadu Lipinskiu parengti Senovės Lenkijos trys tomai, kurių vienas skirtas LDK istoriniam topografiniam ap rašymui.
Balinskis paliko nemažai istorinių darbų ir apybraižų, dalis jų - rankraščiuose. Bene garsiausias istoriko darbas - tai Vilniaus akademijos istorija ir kartu su Tadu Lipinskiu parengti Senovės Lenkijos trys tomai, kurių vienas skirtas LDK istoriniam topografiniam aprašymui. Šiame darbe suregistruoti LDK miestai ir miesteliai, jų geografinė padėtis, trumpa istorinė apžvalga.