Κατά την αναδιοργάνωση των επαρχιών από τον [[διοκλητιανός|Διοκλητιανό]], οι περιοχές του Πόντου και της Αρμενίας διαχωρίστηκαν και η επαρχία περιορίστηκε στην κανονική Καππαδοκία (Cappadocia proper). Ορίστηκε επικεφαλής ένας ύπατος (consul) και τέθηκε υπό την επισκοπή του Πόντου. ΗΣτην επαρχία ήτανβρισκόταν η θέση πολλώνπολλές αυτοκρατορικώναυτοκρατορικώές ιδιοκτησιώνιδιοκτησίες, όπως επιμαρτυρούν νομοθεσίες της εποχής. Καθώς ήταν μεταξύ Κωνσταντινούπολης και Αντιόχειας, η Καισάρεια είδε πολλές αυτοκρατορικές επισκέψεις στα χρόνια του Κωνσταντίνου Α΄ και των επιγόνων του· ο [[ΒάληςΟυάλης]] περνούσε συχνά. Ο μετέπειτα αυτοκράτορας [[Ιουλιανός]] πριν γίνει αυτοκράτορας, πέρασε τα πρώτα έτη του στην απομακρυσμένη ιδιοκτησία του στο Μάκελλον. Υπήρχε μεγάλη διαφορά της τάξης των γαιοκτημόνων από τους αστούς και τους αγρότες, που ήταν ενδεείς. Επίσης η διαφορά του κλίματος στο υψίπεδο ήταν μεγάλη.
Στα τέλη της δεκαετίας του 330 το ανατολικό ήμισυ της επαρχίας αποσπάστηκε για τη δημιουργία των επαρχιών Αρμενία Πρίμα και Αρμενία Σεκούντα. Το 371 ο ΒάληςΟυάλης απέσπασε το νοτιοδυτικό μέρος περί τα Τύανα, καιπου έγινε η Καππαδοκία Σεκούντα υπό έναν πρόεδρο (praeses), ενώ η υπόλοιπη έγινε η Καππαδοκία Πρίμα, που διατήρησε τον ύπατό της.
