Als Ursprungsform des Wortes gilt das persische schische  ,Glas‘. Dieses gelangte ins Türkische (sise ‚Flasche‘) sowie ins Arabische (schischa), wo es in den nordafrikanischen Dialekten des Arabischen den Glaskörper der Wasserpfeife sowie die Pfeife insgesamt bezeichnet.

Der Ursprung der Shisha wird in Indien vermutet, dort soll die erste Shisha aus einer Kokosnuss und einem in diese gesteckten Bambusstock gebaut worden sein.

Die heutige Form entstand wohl im Ägypten des 16. Jahrhunderts. Um die Shisha entwickelte sich eine Gemeinschaftskultur, die bis heute Bestand hat. Die Shisha verbreitete sich ebenfalls im Iran und in weite Teile der arabischen Welt. Die Shisha wurde in vielen arabischen Ländern ein fester Bestandteil der Kultur; das gemeinsame Rauchen wurde und wird bis heute als Symbol der Gastfreundlichkeit angesehen.