С 976 здесь утвердилась самостоятельная династия Бабенбергов. Баварская Восточная марка, которая охватывала в то время район вокруг Вены, была передана в 976 как ленное владение роду Бабенбергов, чьи родовые владения располагались в долине Майна в Германии. В 996 территория Восточной марки впервые была названа Остаррики. В 1156, при маркграфе Генрихе II Язомирготте, маркграфство Австрия было преобразовано в герцогство, окончательно обособившись от Баварии (1156 рассматривается как год образования австрийского государства).

В 976 от Баварского герцогства обособилась как самостоятельное герцогство Каринтия, или Великая Карантания (около 1000 от неё в свою очередь отделилась Карантанская марка, ставшая с 1180 самостоятельным герцогством Штирией), затем герцогство Тироль, область архиепископства Зальцбургского. С 12 в. первенствующее положение среди этих феодальных княжеств постепенно закрепляется за герцогством Австрия, расположенным в удобном для земледелия бассейне Дуная, на важном участке проходившего по нему торгового пути. В условиях общего экономического подъёма стран феодальной Европы герцогство Австрия превращается к концу 12 в. в развитую земледельческую область с растущим торгово-ремесленным центром и столицей Веной.

Одним из выдающихся представителей династии Бабенбергов был макрграф Леопольд III (правил в 1095–1136). Леопольд V (правил в 1177-94) присоединил к австрийскому герцогству Штирию (1192). В правление Леопольда VI (1198-1230) Австрия была уже одним из наиболее сильных территориальных княжеств Священной Римской империи . При Леопольде VI Австрия вступила в пору расцвета в период правления герцога Леопольда VI, который умер в 1230, прославившись как беспощадный борец с еретиками и мусульманами. Щедрыми подарками осыпались монастыри; вновь созданные монашеские ордена, францисканцы и доминиканцы, были сердечно приняты в герцогстве, поощрялись стихотворцы и певцы.