- Dit werd geïnspireerd door de ervaringen van Joel met spelen in The Executive Room, een pianobar in Los Angeles. Hij werkte er in 1972 zes maanden na zijn eerste solo-album, Koude Lente Haven , getankt. De personages in het nummer zijn gebaseerd op echte mensen die Joel ontmoette tijdens het werken in The Executive Room.
De 'serveerster die politiek beoefent' is Elizabeth Weber, die uiteindelijk zijn eerste vrouw werd toen Joel in 1973 met haar trouwde (ze scheidden in 1982). - Joel speelde onder de naam Bill Martin, wat verklaart waarom de vaste klanten in het nummer hem Bill noemen. Martin is zijn tweede naam.
- Joel herinnerde zich aan de Meter krant 6 juli 2006 zijn tijd in The Executive Room: 'Het was een optreden dat ik ongeveer zes maanden deed om huur te betalen. Ik woonde in LA en probeerde onder een slecht platencontract uit te komen dat ik had getekend. Ik werkte onder een valse naam, de Piano Stylings van Bill Martin, en ik heb me er gewoon doorheen geworsteld. Ik heb geen idee waarom dat nummer zo populair werd. Het is net een karaoke-favoriet. De melodie is niet erg goed en erg repetitief, terwijl de teksten als limericks zijn. Ik was geschokt en beschaamd toen het een hit werd. Maar mijn liedjes zijn als mijn kinderen en ik kijk naar dat liedje en denk: 'Mijn kind deed het best goed.'
Met betrekking tot de limericks-verklaring wijst Joel erop dat dit het beste te horen is in het volgende couplet, dat als je het met een levendig tempo leest, als een vers klinkt:
Nu is John aan de bar een vriend van mij
Hij geeft me gratis mijn drankjes
En hij is snel met een grapje of om je rook aan te steken
Maar er is een plek waar hij liever zou zijn - Dit is het eerste nummer en titelnummer van Joel's doorbraakalbum, dat hij uitbracht na een contract met Columbia Records. Zijn eerste album werd in 1971 uitgebracht door Family Records en het contract dat Joel tekende om die deal te krijgen, bleef hem achtervolgen. Zoals vaak het geval is met jonge muzikanten, begreep Joel het contract niet, en het bond hem 'voor het leven' aan het label. Joel werd jarenlang gedwongen royalty's te betalen aan Family nadat hij de deal had verbroken en met Columbia had getekend.
- Dit nummer is in walstijd (3/4), wat ongebruikelijk is voor een popsong. Enkele andere nummers die deze maatsoort gebruiken zijn 'Iris' van de Goo Goo Dolls,' Kus van een roos ' door Seal en Joe Cocker's versie van ' With A Little Help From My Friends .'
- De regel 'Paul is een vastgoedromanschrijver' gaat over een makelaar die regelmatig aan de bar zat en altijd beweerde aan een boek te werken. Joel dacht dat Paul het nooit zou afmaken omdat hij altijd in de bar zat.
- Het mondharmonicagedeelte is geïnspireerd door Bob Dylan. Dylan was de eerste persoon die Joel een riem zag gebruiken om de mondharmonica vast te houden, zodat hij tegelijkertijd een ander instrument kon bespelen.
- Dit nummer is er een waar elke pianobarspeler mee te maken heeft, aangezien fantasieloze klanten er onvermijdelijk om zullen vragen. Joel wijst er echter op dat het nummer behoorlijk saai kan zijn als het in dit formaat wordt afgespeeld. Hij vertelde Howard Stern in 2014: 'Ik vind het een fatsoenlijk nummer. Het verandert niet veel. Als ze het instrumentaal op de piano spelen, wordt het echt saai omdat het steeds weer hetzelfde is.'
- Joel speelt dit vaak als toegift bij zijn liveshows.
- De albumversie draait 5:37, maar de single werd teruggebracht tot 4:30 om het aantrekkelijker te maken voor radiostations, die de voorkeur gaven aan kortere nummers.
- Elton John verwijst in zijn nummer Tiny Dancer uit 1971 naar een pianoman. Hij en Joel werden vrienden en hebben samen getourd.
Brandon - Peoria, Illinois - De tekst 'And he's talkin' with Davy who's still in the Navy and will be for life' is geïnspireerd door David Heintz. Zijn dochter Lisa vertelde ons: 'Hij ontmoette Billy Joel in een pub in Spanje in 1972 toen hij bij de marine was. Hij trouwde toen hij bij de marine zat, had drie kinderen. Hij stierf in 2003 aan ALS. Het doet echt pijn als ik dit nummer op de radio hoor spelen en ze dit stuk weglaten.'
- Weird Al Yankovic maakte een parodie op dit nummer genaamd 'Ode to a Superhero', waarin gebeurtenissen uit de Spider Man film. De originele refreinregel, 'Sing us a song, you're the piano man' is veranderd in 'Sling us a web, you're the Spider-Man'.
- De Spaanse zangeres Ana Belen maakte een versie van dit nummer in het Spaans genaamd 'El Hombre Del Piano'. De tekst van haar lied wijkt nogal af van het origineel; ze praten meer over het verleden van The Piano Man met zijn vrouw en over zijn depressie. De mensen in de bar worden nauwelijks genoemd.
Sergigres - Barcelona, Spanje - Aan het einde van de video voor zijn nummer 'You're Only Human (Second Wind)' loopt Joel de brug af terwijl hij de harmonica-frase uit dit nummer speelt nadat hij een jonge man van zelfmoord heeft gered.
Chet - Saratoga Springs, NY - Dit nummer heeft een verrassende aantrekkingskracht op een jongere generatie, iets wat Joel leerde toen hij in 2015 op het Bonnaroo-festival speelde en het publiek meezong. Hij vertelde Wekelijks amusement de reactie was onverwacht, aangezien het 'een oud, lang nummer is over een man in een deprimerende pianobar'.
- Er zit een accordeon in de mix, gespeeld door Michael Omartian. 'Het is een mooie, subtiele toevoeging op de achtergrond waar je echt naar moet luisteren vanwege het dominantere rietinstrument dat wordt gebruikt', accordeonist Tom Torriglia zegt. 'Ik vind het fijn dat de accordeon niet concurreert met zijn neef, de mondharmonica, om ruimte in het lied. De accordeon voegt een vleugje melancholie toe.'
