Στο συνέδριο3ο Τακτικό Συνέδριο του κόμματος το Μάρτιο του 1927, ο Πουλιόπουλος, μαζί με το [[Παστιάς Γιατσόπουλος|Γιατσόπουλο]], απομακρύνθηκαν από την Κεντρική Επιτροπή. Αργότερα τονστις ίδιο25 χρόνο,Σεπτέμβρη του 1927 διαγράφηκε επίσημα από το κόμμα αφού εξέδωσε και κυκλοφόρησε την μπροσούρα ''Νέο Ξεκίνημα''. Στη συνέχεια σχημάτισαν μια αντιπολιτευτική ομάδα σε συντονισμό με τη [[Διεθνής Αριστερή Αντιπολίτευση|Διεθνή Αριστερή Αντιπολίτευση]], διεθνή αντιπολιτευτική τάση στην Κομμουνιστική Διεθνή υπό την ηγεσία του [[Λέων Τρότσκι|Τρότσκι]]. Άρχισαν να εκδίδουν περιοδικό που ονομάστηκε ''Σπάρτακος'' από το Δεκέμβριο του 1928. Αρνήθηκαν να ενωθούν με τους [[Αρχειομαρξιστές]] που είχαν διασπαστεί από το ΚΚΕ, κατηγορώντας τους για [[σεχταρισμός|σεχταρισμό]] απέναντι στο [[Πολιτικό κόμμα|κόμμα]]. Ο Τρότσκι όμως αναγνώρισε τους Αρχειομαρξιστές ως ελληνικό τμήμα της Διεθνούς Αριστερής Αντιπολίτευσης, απόφαση που ο Πουλιόπουλος και η ομάδα του καταδίκασαν έντονα. <ref>Παντελής Πουλιόπουλος, ''Κομμουνισμός και Αρχειομαρξισμός'', 1931 [http://www.marxists.org/ellinika/archive/pouliop/works/1930/12/10/Commarchgr.htm]</ref> <ref>Παντελής Πουλιόπουλος, ''Τρότσκι και Αρχειομαρξισμός'', 1932 [http://www.marxists.org/ellinika/archive/pouliop/works/1932/01/Trotskyarch.htm]
</ref>
Το 1934, η ομάδα του Πουλιόπουλου και μια ομάδα που είχε διασπαστεί από τους Αρχειομαρξιστές με επικεφαλής τον [[Μιχάλης Ράπτης|Μιχάλη Ράπτη]] (Πάμπλο), ενώθηκαν για να σχηματίσουν την [[Οργάνωση Κομμουνιστών Διεθνιστών Ελλάδας]] (ΟΚΔΕ).
