Η ομάδα ιδρύθηκεΙδρύθηκε στις 10 Μαΐου 1930 και αρχικώς ονομαζόταν '''Σελμάστροϊ'''. Μετονομάστηκε σε '''Σελμάς''' το 1936 και '''Τράκτορ''' το 1941. Το 1950 η ομάδα συμμετείχε στη Νότια Ζώνη της περιφερειακής λίγκας Αζόφ-Ντον της Ε.Σ.Σ.Δ. Την επόμενη χρονιά τοποθετήθηκε στη Β' Κατηγορία του σοβιετικού ποδοσφαίρου. Το 1953 μετονομάστηκε σε '''Τορπέντο''' και το 1958 σε '''Ροστσελμάς'''.
Το 1964 η ομάδα κέρδισε το πρωτάθλημα της Β' Κατηγορίας (τρίτη κατηγορία της Ε.Σ.Σ.Δ.). Στα πλέι-οφ της Ρωσικής Ζώνης της Β' Κατηγορίας, τερμάτισε δεύτερη στον πρώτο γύρο και στην κορυφή με τη λήξη του δεύτερου γύρου, μετά τη νίκη με 2-0 επί της Τερέκ Γκρόζνυ στο αποφασιστικό ματς, κερδίζοντας την άνοδο στην Α' Κατηγορία. Την επόμενη χρονιά τερμάτισε τελευταία στη βαθμολογία, αλλά δεν υποβιβάστηκε γιατί ο αριθμός των ομάδων στην Α' Κατηγορία αυξήθηκε.
Το 1975 υποβιβάστηκε στη Β' Κατηγορία. Το 1985, η ομάδα, κι αφού είχε αποτύχει για λίγο να κερδίσει την άνοδο τις προηγούμενες χρονιές, κέρδισε το πρωτάθλημα της Ζώνης της στη Β' Κατηγορία. Συνέχισε με νίκες στα πλέι-οφ της Κατηγορίας με τους νικητές των άλλων Ζωνών, κερδίζοντας την επιστροφή στην Α' Κατηγορία.
Το 1991 η ομάδα τερμάτισε 4η στην τελευταία χρονιά του σοβιετικού ποδοσφαίρου, λόγω της διάλυσης της Ε.Σ.Σ.Δ. που ακολούθησε. Η θέση αυτή αρκούσε για να εντάξει την ομάδα στη νέα ρωσική Τοπ Λιγκ (την κορυφαία κατηγορία της Ρωσίας). Μετά από την 8η θέση της σεζόν 1991-92, η ομάδα τερμάτισε την επόμενη χρονιά (1992-93) προτελευταία και υποβιβάστηκε στην Α' Κατηγορία. Επέστρεψε όμως αμέσως στην Τοπ Λιγκ κατακτώντας τη 2η θέση τη σεζόν 1993-94.
Το 2003 η ομάδα απέκτησε το σημερινό της όνομα, '''ΦΚ Ροστόφ''', και την ίδια χρονιά έφτασε στον τελικό του Κυπέλλου Ρωσίας για πρώτη φορά στην ιστορία της, χάνοντας με 1-0 από τη [[Σπαρτάκ Μόσχας]]. Το 2007 τερμάτισε τελευταία στην Πρέμιερ Λιγκ (πρώην Τοπ Λιγκ) της Ρωσίας και υποβιβάστηκε στην Α' Κατηγορία. Παρόλα αυτά, επέστρεψε πάλι αμέσως στην κορυφαία ρωσική κατηγορία ως πρωταθλήτρια της Α' Κατηγορίας, όπου και αγωνίζεται έως σήμερα.
