В детстве, начав заниматься гитарой, Пол Гилберт испытал сильнейшее влияние Эдди ван Халена. В 15 лет он отсылает свою демо-запись Майку Уорни, главе звукозаписывающей фирмы «Shrapnel Records», но серьёзного продолжения этот эпизод не получил. При этом Пол решает получить основательное музыкальное образование: школу гитары закончил в «G.I.T.» («Guitar Institute of Technology»).
Первой группой, в которой ему довелось играть, была ELECTRIC FENCE. Через год Пол переходит в группу RACER X., а в 1988 году присоединяется к MR. BIG. Годы, проведённые на сцене, не прошли для Пола Гилберта даром. Помимо гитарного мастерства у музыканта развивается большой композиторский дар. С 1997 года Гилберт записывает сольные альбомы: «Flying Dog» (1998), «Alligator Farm» (2000), «Eleven Thousand Notes» (Region 2) (2001), «Burning Organ» (2002), «Acoustic Samurai» (2003), «Space Ship One» (2005), «Get Out Of My Yard» (2006), «Silence Followed By A Deafening Roar» (2008). В 2007 году вместе с Джо Сатриани и Джоном Петруччи Пол Гилберт участвует в знаменитом гастрольном фестивале «G 3». Новый альбом Пола «United States», записанный совместно с Фредди Нельсоном, вышел в 2009 году.
Пол Гилберт – страстный коллекционер: он собирает гитары. Количество гитар в его коллекции перевалило за сотню.