Ο ΠΑΟΚ ιδρύθηκε στις 20 Απριλίου 1926 κι έπειτα από δύο μήνες προετοιμασίας αποφασίστηκε ότι θα πρέπει να αγωνιστεί με τις υπόλοιπες ομάδες της Θεσσαλονίκης, ως μέλος της ΕΠΣΜ. Ο πρώτος αγώνας του συλλόγου ήταν μια νίκη εναντίον του Ηρακλή στις 26 Ιουλίου 1926 με σκορ 2–1. Ο πρώτος προπονητής του ΠΑΟΚ υπήρξε το 1926, άμισθος, ο Κώστας Ανδρεάδης. Το πρώτο επαγγελματικό συμβόλαιο που υπογράφτηκε στον ΠΑΟΚ, αφορούσε στον Γάλλο ποδοσφαιριστή Ραϊμόν Ετιέν στις 5 Σεπτεμβρίου 1928. Το συμβόλαιο προέβλεπε ότι ο ποδοσφαιριστής, προερχόμενος από τον ελληνικό σύλλογο Πέρα Κλουμπ της Κωνσταντινούπολης, θα λάμβανε μισθό 4.000 δραχμών μηνιαίως.
Πανθεσσαλονίκειος Αθλητικός Όμιλος Κωνσταντινουπολιτών 