Ήταν γιος του αρχιδούκα [[Όθων, αρχιδούκας της Αυστρίας|Όθωνα]] αρχιδούκα της Αυστρίας και της Μαρίας-Ιωσηφίνας πριγκίπισσας της Σαξωνίας, ανιψιός του [[Φραγκίσκος Φερδινάνδος της Αυστρίας|Φραγκίσκου-Φερδινάνδου]] αρχιδούκα της Αυστρίας που δολοφονήθηκε στο [[Σεράγιεβο]]. Παντρεύτηκε τη Ζίτα των Βουρβόνων, πριγκίπισσα της Πάρμας ([[1911]]). Mε τη δολοφονία του θείου του Φραγκίσκου-Φερδινάνδου, κάτι που στάθηκε αιτία για την έκρηξη του Α΄ Παγκοσμίου Πολέμου ([[1914]]), έγινε διάδοχος του Αυστριακού θρόνου. Δύο χρόνια αργότερα διαδέχθηκε τον υπερήλικα προ-μεγάλο θείο του [[Φραγκίσκος Ιωσήφ Α΄ της Αυστρίας|Φραγκίσκο-Ιωσήφ Α΄]] στον αυτοκρατορικό θρόνο· η στέψη του έγινε στις [[30 Δεκεμβρίου]] [[1916]]. Με την άνοδό του στον θρόνο ξεκίνησε μυστικές διαπραγματεύσεις με την [[Γαλλία]] για σύναψη ειρήνης, καθώς ο στρατός του στο τέλος του Α΄ Παγκοσμίου Πολέμου είχε αποδεκατιστεί και η αυτοκρατορία πήγαινε να διαλυθεί. Τα αυτονομιστικά κινήματα ανεξαρτησίας στην [[Ουγγαρία]] και τη [[Σερβία]] ήταν έντονα. Ο πρόεδρος των ΗΠΑ Ουίλσον του ζήτησε να επιτρέψει την αυτονομία των εθνοτήτων· ο ίδιος του απάντησε ότι θα επιτρέψει μια σχετική ανεξαρτησία μέσα στην αυτοκρατορία, με προοπτική στο μέλλον για ολική ανεξαρτησία. Το σχέδιο που προσπάθησε να εφαρμόσει απέτυχε, με αποτέλεσμα όλες οι εθνότητες σταδιακά να διακηρύξουν την ανεξαρτησία τους, με σκληρότερο χτύπημα τη διακήρυξη της ανεξαρτησίας της Ουγγαρίας στις [[31 Οκτωβρίου]] και τη διάσπαση της Αυστρο-Ουγγρικής δυαρχίας. Στον Κάρολο απέμειναν ελάχιστες παραδουνάβιες περιοχές, που τις διεκδικούσε και η [[Γερμανία]].
