बाबा विश्वनाथ नाथ संप्रदाय के महान योगी बिश्वर ने लगभग 600 साल पहले इस शहर की स्थापना की थी और इसलिए शहर को बिस्वान कहा जाता था। बिस्वान का नाम भगवान शिव, विश्वनाथ मंदिर के एक बहुत प्रसिद्ध मंदिर से मिलता है। गुलजार शाह का एक मेला हर साल सर्दियों के दौरान आयोजित किया जाता है जो उत्तर प्रदेश राज्य में लोकप्रिय है।