John Gay a étudié la grammaire. À la fin de ses études, il est entré comme apprenti chez un marchand de soie à Londres, mais, goûtant peu, selon
Samuel Johnson, la « servilité de sa profession », il est alors retourné à Barnstaple passer quelque temps chez son oncle, le révérend John Hanmer, avant de repartir pour Londres.
La dédicace de son Rural Sports (1713) à Alexander Pope a été le début d'une longue amitié. En 1714, à la demande de Pope, Gay écrivit The Shepherd's Week, une série de six pastorales, ébauche de la vie rustique anglaise, pour ridiculiser les pastorales arcadiennes d'Ambrose Philips. Les pastorales de Gay atteignirent cet objectif.
En 1714, Gay fut nommé secrétaire de l'ambassadeur britannique à la cour de Hanovre, grâce à l'influence de Jonathan Swift, mais la mort de la reine Anne, trois mois plus tard, le 1er août 1714, sonna le glas de sa carrière de fonctionnaire. En effet, le successeur de la reine Anne sur la trône britannique étant justement l'électeur George Ier de Hanovre, et celui-ci venant s'installer à Londres, l'ambassade cessait d'avoir une utilité.
Gay serait le premier Anglais à avoir écrit des fables en vers.