Γιος του αείμνηστου ρεμπέτη Θεόδωρου Πολυκανδριώτη και αδελφός του πασίγνωστου συνθέτη Θανάση, ο Γιάννης Πολυκανδριώτης μεγάλωσε κυριολεκτικά στο πάλκο, δίπλα σε τεράστια ονόματα της Ελληνικής Μουσικής σκηνής, όπως ο Τσιτσάνης και ο Ζαμπέτας.
Την είδηση του θανάτου του έκανε γνωστή μέσω Facebook ο τραγουδιστής Γιάννης Πετρόπουλος γράφοντας: «Αντίο αγαπημένε μου φίλε Γιάννη Παλυκανδριώτη. Μαζί πήγαμε στο Λονδίνο. Εσύ έμεινες και έκανες μεγάλη καριέρα και εγώ από εδώ σε καμάρωνα».
Γεννημένος το 1946 στο Αιγάλεω, ξεκίνησε να παίζει από μικρός μπουζούκι στο πλευρό του πατέρα του, αείμνηστου ρεμπέτη Θεόδωρου Πολυκανδριώτη.
Οι λάτρεις του ρεμπέτικου τραγουδιού τον θυμούνται να παίζει το μπουζούκι του από το 1954 στο πάλκο του «Παράδεισου» μαζί με τον Στράτο Κουγιουμτζή και τον Παναγιώτη Μιχαλόπουλο.
Η πρώτη του επαγγελματική εμφάνιση έγινε το 1958 στην «Ψάθα» στο Αιγάλεω, με τον Πρόδρομο Τσαουσάκη και την Ανθούλα Αλιφραγκή, ενώ ακολούθησαν η «Λουζιτάνια», ο «Κήπος του Αλλάχ», ο «Περιβόλας» και το «Καν Καν».
Κατά τη διάρκεια της πορείας του συνεργάστηκε με μεγάλα ονόματα όπως Σακελλαρίου, Τσιτσάνης, Ζαμπέτας, Μητσάκης, Παγιουμτζής, Τσαουσάκης, Μιχαλόπουλος, Αγγελόπουλος, Λύδια, Μενιδιάτης, Διονυσίου, Μοσχολιού, Πάριος, Κόκοτας, Βιολάρης και άλλοι.
Ιδιαίτερα επιτυχημένη ήταν η παρουσία του και στο θέατρο, δίπλα σε σπουδαίους ηθοποιούς όπως η Ρένα Βλαχοπούλου, η Μάρω Κοντού, ο Κώστας Καρράς, ο Σταύρος Παράβας και ο Σωτήρης Μουστάκας.