Wielkie państwo rzymskie było organizmem trudnym do administrowania i jeszcze trudniejszym do obrony. Końcem III w. cesarz Dioklecjan (284 – 303) dokonał pewnego podziału państwa pomiędzy imperatorów, zapoczątkowując tym samym rozłam wielkiego państwa. Przed końcem IV wieku podział państwa rzymskiego na wschodnią i zachodnią część stał się faktem. Podział Cesarstwa Rzymskiego był początkiem końca dla jego zachodniej części, która pozbawiona zboża z Egiptu i podatków ze wschodnich prowincji, szybko zaczęła popadać w zależność od barbarzyńców. Armia buntowała się coraz częściej. W szczytowym okresie buntów (poł. III w.) co najmniej dziewięciu dowódców (tzw. okres trzydziestu tyranów) wypowiedziało posłuszeństwo prawowitemu cesarzowi, co doprowadziło do jeszcze większej anarchii w wojsku rzymskim i dezorganizacji systemu obronnego państwa. Barbarzyńcy coraz śmielej przekraczali granice i osiedlali się na terenie państwa. W IV wieku casarzom udało się odzyskać niemal wszystkie utracone tereny i odnowić system obronny kraju, który wydawał się być solidniejszy niż dotychczas (rok 330). Kiedy władze rzymskie podjęły próbę pozbycia się barbarzyńców i ich rosnącego wpływu, doprowadziło to niemalże do upadku państwa. Wpływ obcy był już tak znaczny, że żadna głęboka reforma nie była już możliwa. Zachodniorzymska siła zbrojna nadal rekrutowała się w głównej mierze z oddziałów Germanów, noszących oficjalnie status sprzymierzeńców Rzymu. W rzeczywistości oddziały te, walczące pod własnym dowództwem i własnymi stylami, były niemalże niezależne od władzy rzymskiej i były w stanie zmienić front i wymówić posłuszeństwo cesarstwu w każdej chwili. Sami żołnierze barbarzyńscy coraz częściej lekceważyli obyczaje rzymskie, które kiedyś budziły w nich strach. Opanowanie zachodniej części imperium przez Gotów, Wandalów i innych germańskich najeźdźców, pozostawiło wschodnią część osamotnioną i osłabioną, niemniej jednak nietkniętą.

Inaczej wyglądały stosunki pomiędzy barbarzyńcami a Rzymianami we wschodniej części cesarstwa. W 420 r. gwałtowna akcja antygermańska państwa i samych mieszkańców Konstantynopola zapoczątkowała gruntowne zmiany wojskowe. Oczyszczono kadrę oficerską z Germanów i zaczęto ponownie rekrutować żołnierzy spośród rodowitych mieszkańców państwa. Oddziały z przymusowo wcielanych do armii chłopów, ustępowały wprawdzie pod względem wojskowym najemnikom germańskim, ale został przywrócony związek pomiędzy żołnierzami a krajem, w którym się urodzili i którego bronili. Zawód żołnierza nie cieszył się jedakże taką popularnością i szacunkiem, jak za dawnych czasów rzymskich. Jakość wielu oddziałów była niska. Nielicznymi wyjątkami były jednostki rekrutujące się z górali izauryjskich z Anatolii oraz postawnych Aramejczyków. W tej sytuacji częściowo przywrócono rekrutację obcokrajowców, ale pod całkowicie zmienionymi warunkami i na własnych zasadach. Rekrutowano do wojska pojedynczych żołnierzy, a nie zorganizowane oddziały barbarzyńskie, przez co uniknięto tworzenia oddziałów obcokrajowców, mówiących innymi językami. Także oficerowie wywodzili się z terenów cesarstwa, najczęściej mających pochodzenie rzymskie.

Sytuacja wojskowa nowego Wschodniego Cesarstwa nie była jednak łatwa. Chociaż poszczególni imperatorzy bizantyńscy czuli się spadkobiercami dawnego Rzymu i z tego powodu podejmowali próby rozciągnięcia władzy na dawne zachodnie ziemie Rzymu, odnowienie starego państwa w jego dawnych granicach nie było już możliwe. Państwo perskie ponownie stało się groźne, pojawiły się nowe zagrożenia w postaci wojowniczych Awarów i Słowian, którzy zaczęli zagrażać północnozachodnim częściom państwa. Od VII w. pojawiło się kolejne niebezpieczeństwo – Arabowie. W odpowiedzi na te obawy armia bizantyńska w VII i VIII w. przeszła ogromne zmiany organizacyjne. Porzucono dotychczas obowiązujący stary system rzymski, oparty głównie na piechocie, stacjonującej na granicach i w prowincjach przygranicznych. Zwiększono mobilność oddziałów oraz ilość konnicy. Poważniejszymi zmianami było zmniejszenie wielkości oddziałów z 5 tysięcznych legionów na tysięczne i tysiąc pięćsetne jednostki. Generalnie tysiącosobowy oddział składał się z 650 ciężkozbrojnych i 350 lekkozbrojnych żołnierzy. Spadła też znacznie liczba żołnierzy (czasy przed reformami od 300 do 370 tysięcy) do 80-150 tysięcy (w różnych okresach), która była jednak efektywniejsza niż duże masy wojska. W konsekwencji armia bizantyńska od VII do XI w. była bardzo skuteczną siłą, walczącą zarówno z armiami zachodniej Europy, jak armiami arabskimi na Wschodzie. Kraj podzielono na wojskowo – cywilne jednostki, zwane “themata”, na czele których stali generałowie (zwani “strategos”), pełniący funkcje cywilne i wojskowe zarazem. Żołnierze osadzani byli na ziemi, stając się na wpół rolnikami, na wpół żołnierzami. Częściowo żołd odliczny był z ziemi, z której mieli czepać zyski. Zmniejszało to ogromnie koszty utrzymania armii przez państwo oraz nadawało dodatkowego bodźca żołnierzom, aby walczyć o ziemię, która dostarczała im utrzymanie (pomimo faktu, że ziemia była nadal własnością państwa). Tak rekrutowane armie kresowe były również bardziej przydatne do natychmiastowego podjęcia akcji, bez czekania na rozkazy ze stolicy.

Część oddziałów stacjonowała w głębi kraju. Były to oddziały palatynatów, zwane również oddziałami dworskimi. Te formacje wojskowe zostały stworzone przez cesarza Konstantyna V (741 – 775), początkowo jako jednostki stacjonujące w stolicy i jej okolicach. Ich pierwotnym zadaniem miała być ochrona Konstantynopola, władcy oraz działanie jako formacja szybkiego reagowania na zagrożonym odcinku.

Dodatkowych oddziałów wojska dostarczali też posiadacze ziemscy. Ich rola znacznie wzrosła w wyniku pojawienia sie systemu ”themata”. Trudno jest jednak opisać sposób rekrutacji i podziału obowiązków żołnierzy. System ten sprawdzał się dosyć skutecznie w walce z Arabami i Bułgarami w X wieku. W XI wieku arystokracja ziemska została zwolniona z obowiązku dostarczania żołnierzy na rzecz płacenia podatków do skarbu państwa. Było to na tyle logiczne, że arystokraci kresowi zaczęli tworzyć własne oddziały, bardziej lojalne im samym niż prawowitym władzom w Konstantynopolu. Za podatki zaczęto ponownie rekrutować oddziały najemne, składające się głównie z obcokrajowców. W szeregach najemników walczyły plemiona osiadłe na terytorium państwa (chociaż nie były one nazbyt znaczącą siłą wojskową) oraz typowo obce jednostki najemne, jak Wikingowie, Słowianie, ale także Germanie (od Anglosaksonów, Franków po Lombardów i innych). Obcokrajowcy w Bizancjum byli zwani Waregami. Część obcych oddziałów tworzyła tzw. Gwardię Waregów. Formacja ta stanowiła ponadto elitarną jednostkę, pełniącą funkcję ochrony władcy i jego rodziny oraz uśmierzania buntów czy egzekwowania niepoularnych rozkazów władzy. Rzadko natomiast brała udział w bitwach. Osobista przysięga wierności cesarzowi i obcy charakter tej jednostki sprawiał, że nie była ona bardzo podatna na bunty, w przeciwieństwie do rodzimych jednostek. Dopełnieniem najemników były jednostki czysto biznatyńskie, pełniące jednakże drugorzędną rolę. Nowa armia nie była jednak w stanie skutecznie walczyć ani z Turkami w Anatolii, ani z Normanami w Sycylii. Państwo bizantyjskie zostało okrojone terytorialnie jak nigdy dotąd, a zawodowa armia w pewnym okresie praktycznie nie istniała.

W XII wieku cesarze próbowali odbudować armię narodową (dynastia Komenów), co przez pewien czas sprawdzało się. Ważnym czynnikiem (wzmacniającym armię bizantyńską) był wówczas system dowodzenia. Poszczególni cesarze stawali na czele ruszających na kampanie wojenne oddziałów. Zapobiegało to buntom i decentralizacji w systemie państwowym i militarnym. Poszczególne prowincje, zarówno europejskie, jak i azjatyckie, dostarczały ponownie rekrutów. Tylko częściowo wojsko (zwane armią komenowską) składało się z obcych żołnierzy, np. pokonanych plemion, takich jak Pieczyngowie (służący jako konni łucznicy). Kontyngentów dostarczali również sojusznicy węgierscy i serbscy. Generalnie rodzime oddziały bizantyńkie liczyły wówczas około 70 procent całości sił zbrojnych państwa.

Pod względem organizacyjnym główną siłą armii w czasach Bizancjum stała się konnica. Zarówno jeździec, jak i koń, byli chronieni przez ciężką zbroję, chociaż zachodnie rycerstwo było jeszcze bardziej ciężkozbrojne. Jeźdźcców uzbrojono w dzidy (kontarion), miecze (spatha), niewielkie topory i łuki. Uzbrojenie idealnie dostosowane było do walki z przeciwnikami na Wschodzie, z Persami, Turkami i Arbami, gdzie Biznacjum głównie toczyło wojny. W walce na zachodnich granicach, ciężkozbrojna jazda była siłą niezwykle skuteczną w walce z Węgrami i Pieczyngami. Oddziały jazdy podzielone były na 300 i 400 osobowe jednostki i atakowały w głębokiej na 8 do 10 szeregów formacji. W ten sposób tworzyła się bardzo ciasna, nie nadająca się do płynnych manewrów formacja, ale zarazem bardzo trudna do rozbicia. Pierwsze szeregi uzbrojone były we włócznie (kontariony) i łuki. Łucznicy obsypywali przeciwnika gradem strzał, tworząc w jego szeregach wyrwy, a następnie rozpoczynając walkę z bliskiej odległości za pomocą dzid. Za pierwszymi szeregami w galopie podążały pozostałe szeregi.

Dopełnieniem ciężkozbrojnej jazdy była lekka kawaleria, pełniąca zazwyczaj rolę pomocniczą. Lekkozbrojni kawalerzyści częściowo rekrutowali się z mieszkańców Bizancjum, czasami też składali się z najemnych wojsk Sarmatów, Awarów, Pieczyngów, Wegrów i Aramejczyków. Głównie wykorzystywano ten rodzaj kawalerii w walkach podjazdowych, potyczkach i rekonensansach. Żołnierze używali zazwyczaj swojej narodowej broni.

Piechota nie była już czynnikiem decydującym o wyniku bitwy, jak za czasów rzymskich. Składała się z lekkozbrojnych i (głównie) ciężkozbrojnych oddziałów. Lekkozbrojna piechota składała się głównie z łuczników, używających łuku złożonego, którego zasięg był znacznie większy niż niewielkich łuków konnicy. Dodatkowo łucznicy uzbrojeni byli w niewielki topór, służący do obrony (tzikurion) oraz wzorem jazdy, długi na 90 centymetrów miecz, spathę. Wiekszość bizantyjskich łuczników wywodziła się z Azji Mniejszej, szczególnie z regionów południowego wybrzeża Morza Czarnego, gdzie mieszkańcy specjalizowali się w tej sztuce walki.

Podobnie, jak za czasów rzymskiego legionu, piechota znajdowała się w centrum a jej na skrzydłach jazda. Z reguły piechota była nieco cofnięta. Pierwsze szeregi (głębokie na 15 do 20 szeregów) stanowiła ciężkozbrojna piechota. Najbardziej wysunięte do przodu jednostki używały długich na 2 do 3 metrów dzid, mających utrzymywać wroga na dystans. Jej ostatnie trzy linie tworzyli łucznicy, chronieni przez ciężką piechotę, znajdującą się w pierwszych szeregach. Dużego znaczenia piechurzy (ciężkozbojni) nabrali za czasów cesarza Bazylego II Bułgarobójcy (976 – 1025), stając się wtedy jedną z najlepszych formacji piechoty na świecie. Chronieni byli przez zboję kolczugową oraz dużą (zazwyczaj) okrągłą tarczę, a walczyli za pomocą dzid i mieczy.

Bizantyjczycy traktowali wojnę jako konieczność, a nie powód do zdobycia chwały i dumy. Większość wojen, toczonych przez cesarstwo, była wojnami obronnymi. Niemniej jednak taktyka armii bizantyńskiej była wysoce rozwinięta i różnorodna. Myśl wojskowa dostosowana była do przeciwnika, z jakim przyszło się mierzyć. Taktycy i generałowie bizantyjscy sporo korzystali z dziedzictwa rzymskiego i greckiego. Cesarz Leon IV (750 – 780) w swoim dziele o wojkowości, “Taktyce”, wyznacza instrukcje na temat sposobu walki z poszczególnymi wrogami. W taktyce bizantyjskiej przeznacza się sporo miejsca wojnie podjazdowej i szarpanej. Przeciwnicy z zachodniej Europy uważali więc błędnie armie bizantyjskie za tchórzliwe. Dowódcy starali się nie angażować w regularne, duże bitwy aż do czasu osiągnięcia zdecydowanej przewagi liczbnej lub taktycznej. W tym celu często wykorzystywano łuczników, aby sprowokować wroga do ataku w najmniej dogodnym momencie i miejscu. Frankowie i Lombardowie walczyli jako ciężka konnica, bezpośrednim atakiem na przeciwnika. Należało unikać, jeśli było możliwe, bezpośredniego starcia. Cechą ujemną armii zachodniej Europy był brak dyscypliny i odpowiedniego rekonensansu oraz pozbawienie obozów wojskowych bez obwarowywań w nocy. W przypadku walki należało rozpocząć taktyczny odwrót i wciągnąć przeciwnika w zasadzkę.

Węgrzy i Turcy opierali swoją siłę na niewielkich oddziałach lekkiej konnicy, które starały się osłabić wroga szeregiem potyczek, atakując główne siły tylko wtedy, gdy znalazły słaby punkt. Taktyka bizantyńska zalecała swoim generałom użycie na pierwszej linii łuczników, którzy mieliby utrzymywać konnicę wroga na dystans i podejmować próby zadania jak największych strat. Wówczas, ciężka jazda bizantyńska miałaby okazję zaatakowania i zniszczenia swym impetem wroga.

Słowianie byli również bardzo uciążliwym przeciwnikiem dla armii bizantyjskiej. Walczyli niemalże wyłącznie jako piechota, ale byli również mistrzami wojny z ukrycia, skutecznie atakując ze wzgórz i zarośli maszerujące kolumny. Trudny teren, na którym operowali wojowie słowiańscy, utrudniał użycie zarówno jazdy, jak i łuczników. Walkę ze Słowianami należało poprzedzić bardzo dobrym rekonensansem. W przypadku walki na otwartym terenie, wojowie słowiańscy, walczący pieszo i bez jakiejkowiek ochrony (oprócz podłużnych, drewianych tarcz), byli łatwym celem dla ciężkozbrojnej konnicy.

Arabów traktowano jako wojowników opanowanych fanatyzmem religijnym i chęcią rabunku. Walka z nimi polegać miała na zaangażowaniu konnicy do zwalczania, przekraczających granicę grup wojow arabskich. Było to zrozumiałe, jeśli weźmie się pod uwagę, że Arabowie byli świetnymi i niezwykle szybkimi jeźdźcami. W przypadku inwazji większych sił, konnica z prowincji przygranicznych powinna starać się atakować mniejsze siły wroga i przecinać drogi zaopatrzeniowe, celem spowolnienia ruchów armii inwazyjnej. W międzyczasie główna armia bizantyjska, zgrupowna w Anatolii, miałaby czas na przygotowanie uderzenia na główne siły przeciwnika. Dopełnieniem powyższej taktyki miałyby być kontrataki na terytorium przeciwnika, celem zmuszenia go do odwrotu i obrony własnych posiadłości.

Wraz z pojawienim się Turków, którzy ostatecznie oderwali od Bizancjum Anatolię wraz z jej rezerwuarami ludzkimi, uniezależnieniu się Węgrów i Serbów, którzy utworzyli własne królestwa, system rekrutacji, oparty na “themes”, uległ niemal całkowitej dezintegracji. Bizancjum nie było w stanie wystawić już dużych armii do obrony swojego terytorium. Dotychczasowy system był znacznie tańszy, gdyż żołd pokrywano częściowo z ziemi, na której gospodarowali żołnierze. Teraz władcy musieli łożyć ogromne sumy na żołd dla wojska z budżetu centeralnego, co było sporym obciążeniem dla państwa. Symbolem słabości Bizancjum było zdobycie Konstantynopola przez krzyżowców czwartej krucjaty w 1204. Przez następne dwa stulecia cesarze biznatyjscy starali utrzymać istnienie państwa. Armia, którą mieli do dyspozycji, była niewielka i w dużej mierze oparta (ponownie) na nie najskuteczniejszych najemnikach. W 1453 roku po zaciekłej walce mała armia bizantyjska, składająca się tylko z 5 tysięcy żołnierzy, wspartych dwoma tysiącami najemników, uległa osiemdziesięciotysięcznej armii tureckiej, oblęgającej stolicę ongiś potężnego Imperium. Ostatni cesarz, Konstantyn XI, poległ wraz ze swoimi żołnierzami w walce ulicznej. Nastąpił koniec Bizancjum.