Biliakiemis minimas 1699 metų Kuktiškių santuokos metrikų knygoje, tačiau manoma, kad kaimo priešistorė gali siekti Jogailos laikus. Iki 1944 metų Biliakiemis buvo Bilekiemiu, o legenda byloja, kad kaimo pavadinimas kilo nuo elgetos, kuris ieškojo „bile kiemo“ nakvynei. Šiuo metu kaimą garsina 2016 metais atkastas Biliakiemio akmuo, pakrikštytas Puntuku. Turbūt ne daug kas žino, kad Aleksandros ir Napalio Vilūnų kieme auga, kaip jie patys sakė, baudžiavos laikus menanti liepa, o buvusio Biliakiemio kolūkio dirbtuvių įvažiavimą dar sovietmečiu papuošė Gediminaičių stulpai.