Однако величие было куплено дорогой ценой — экономика была подорвана войнами, население обнищало, и преемники Юстиниана (Юстин II (565—578), Тиверий II (578—582), Маврикий (582—602)) были вынуждены основное внимание уделять уже обороне и перенести направление политики на восток. Завоевания Юстиниана оказались непрочными — в конце VI—VII вв Византия потеряла все завоёванные области на Западе (за исключением Южной Италии).
В то время как вторжение лангобардов отняло у Византии половину Италии, в 591 году в ходе войны с Персией была завоёвана Армения, на севере продолжалось противостояние со славянами. Но уже в начале следующего, VII века персы возобновили боевые действия и добились значительных успехов вследствие многочисленных смут в империи.
В 610 году сын карфагенского экзарха Ираклий сверг императора Фоку и основал новую династию, которая оказалась способной противостоять опасностям, угрожающим государству. Это был один из самых тяжёлых периодов в истории Византии — персы завоевали Древний Египет и угрожали Константинополю, авары, славяне и лангобарды атаковали границы со всех сторон. Ираклий одержал ряд побед над персами, перенёс войну на их территорию, после чего смерть шаха Хосрова II и ряд восстаний заставили их отказаться от всех завоеваний и заключить мир. Но сильнейшее истощение обеих сторон в этой войне подготовило благоприятную почву для арабских завоеваний.
По старогрузинской рукописи («Осада Константинополя скифами, кои суть русские») и старославянским рукописям XV—XVII вв. известно о нападении персов и их союзника — скифского воеводы (кагана) на Царьград в 626 г.[5]
В 634 году халиф Омар вторгся в Сирию. В 635 арабы захватили Дамаск. Решительная битва между Византией и Арабским Халифатом за контроль над Сирией состоялась 20 августа 636. Хотя и встречаются явно завышенные оценки, согласно которым византийский император Ираклий собрал 200-тысячную армию (по другим данным даже 400 тысяч) для отвоевания Сирии, в реальности численность византийской армии при реке Ярмуке (Йармуке) была заметно меньше 100 тысяч чел. (Большаков 1993: 54). Исход битвы решили природные условия: песчаная буря дезориентировала византийцев. Кроме того войско византийцев было многонациональным. Помимо греков, под знамёна императора встали армяне и арабы-христиане.Mусульмане-арабы одержали победу. Ираклий отступил в Константинополь. В течение следующих 40 лет были потеряны Египет, Северная Африка, Сирия, Палестина, Верхняя Месопотамия, причём зачастую население этих областей, измученное войнами, считало арабов, которые в первое время существенно снижали налоги, своими освободителями. Арабы создали флот и даже осаждали Константинополь. Но новый император, Константин IV Погонат (668—685), отразил их натиск. Несмотря на пятилетнюю осаду Константинополя (673—678) с суши и с моря, арабы не смогли его захватить. Греческий флот, которому недавнее изобретение «греческого огня» обеспечило превосходство, вынудил мусульманские эскадры к отступлению и нанёс им в водах Силлеума поражение. На суше войска халифата были разбиты в Азии.
Из этого кризиса империя вышла более сплочённой и монолитной, национальный состав её стал более однородным, религиозные различия главным образом ушли в прошлое, так как монофизитство и арианство получили основное распространение в утраченных ныне Египте и Северной Африке. К концу VII века территория Византии составляла уже не более трети державы Юстиниана. Ядро её составляли земли, населённые греками или эллинизированными племенами, говорившими на греческом языке. В то же время началось массовое заселение Балканского полуострова славянскими племенами. В VII веке они расселились на значительной территории в Мёзии, Фракии, Македонии, Далмации, Истрии, части Греции и даже были переселены в Малую Азию), сохранив при этом свой язык, быт, культуру. Изменился этнический состав населения и в восточной части Малой Азии: появились поселения армян, персов, сирийцев, арабов.
В VII веке были проведены существенные реформы в управлении — вместо эпархий и экзархатов империя была разделена на фемы, подчинённые стратигам. Новый национальный состав государства привёл к тому, что греческий язык стал официальным, даже титул императора стал звучать по-гречески — василевс (en:Basileus Rōmaiōn). В администрации старинные латинские титулы или исчезают, или эллинизируются, а их место занимают новые названия — логофеты, стратеги, эпархи, друнгарии. В армии, где преобладают азиатские и армянские элементы, греческий язык становится языком, на котором отдаётся приказ. И хотя Византийская империя до последнего дня продолжала называться Римской империей, тем не менее, латинский язык вышел из употребления (за исключением окраин империи, где продолжали говорить на народной латыни, на основе которой возникли румынский язык в Дакии и далматинский язык в Иллирии).