अण्णा जोशी हे जनसंघ भाजपमधील लढाऊ कार्यकर्ते म्हणून परिचित होते. 1980 मध्ये अण्णा जोशींना भारतीय जनता पक्षाने पुण्यातील शिवाजीनगर विधानसभा मतदारसंघातून उमेदवारी दिली. त्यांच्या विरोधात होते कॉंग्रेसचे श्रीधर माडगुळकर. ग. दि. माडगुळकर यांचे चिरंजीव असलेल्या श्रीधर माडगुळकर यांना जयंतराव टिळक यांच्या आग्रहामुळे उमेदवारी दिली गेली होती. अण्णांनी त्या निवडणुकीत फक्त 600 मतांनी विजय मिळवला.
1985 मध्ये पुन्हा अण्णा विरुद्ध श्रीधर माडगुळकर अशी लढत झाली. या लढतीत अण्णा अवघ्या 111 मतांनी विजयी झाले. 1989 मध्ये अण्णा जोशींना विठ्ठलराव गाडगीळ यांच्या विरोधात लोकसभा निवडणुकीत भाजपने उमेदवारी दिली होती. त्यावेळी राम मंदिराच्या मुद्द्यामुळे हिंदुत्वाचे वारे वाहात होते. शिवाय, दोन टर्म झाल्यामुळे गाडगीळांविषयी नाराजी होतीच.
अण्णांचा पुण्यातील जनसामान्यांशी थेट संपर्क असायचा. आपला माणूस अशी अण्णांची प्रतिमा होती. या निवडणुकीत अण्णांनी विठ्ठलराव गाडगीळांना जबरदस्त झुंज दिली. पहाटे पाचपर्यंत मतमोजणी चालू होती. विजयाचे पारडे दोन्ही बाजूला झुकत होते. अखेर गाडगीळांनी अवघ्या नऊ हजारांच्या मताधिक्याने कसाबसा विजय मिळवला. स्वतः गाडगीळांनी विजयानंतर अण्णांची भेट घेऊन त्यांचे खास कौतुक केले. गाडगीळांच्या विजयी मिरवणुकीत काही कार्यकर्त्यांनी हिरवा गुलाल उधळल्याने व त्याचे वृत्त प्रकाशित झाल्यामुळे वातावरण चांगलेच तंग बनले होते. 1991 मध्ये पुन्हा पुण्यात अण्णा विरुद्ध विठ्ठलराव गाडगीळ अशी लढत झाली. या लढतीत शरद पवार आणि सुरेश कलमाडी यांच्या समर्थकांनी गाडगीळांच्या विरोधात काम केल्याचे स्पष्टपणे जाणवत होते. पवार समर्थकांच्या मदतीमुळे अण्णांनी गाडगीळांना 17 हजार मतांनी पराभूत करत विजय मिळवला. या विजयानंतर अण्णा जोशी यांना भारतीय जनता पक्षाने एकदाही उमेदवारी दिली नाही. अण्णांना का डावलले याची चर्चा पक्षात दबक्या आवाजात अनेक वर्षे चालू होती.
1996, 1998 अशा सलग दोन निवडणुकीत डावलले गेल्यानंतर अण्णांनी केंद्रीय नेतृत्वाकडे आपल्याला का डावलले जात आहे, अशी संतप्त विचारणा केली. उमेदवार निवडीच्या बैठकीत त्यावेळी मुरली मनोहर जोशी यांनी अण्णांच्या नावासाठी आग्रह धरल्यामुळे 1999 मध्ये अण्णांचे नाव उमेदवार म्हणून जाहीर झाले. पुण्यातील महाजन-मुंडे समर्थकांना अण्णांची उमेदवारी पसंत नव्हती. प्रदीप रावत यांना उमेदवारी मिळावी यासाठी
महाजन मुंडे समर्थकांनी हट्ट धरला होता. अण्णांची उमेदवारी जाहीर झाल्यानंतर काही कार्यकर्ते प्रमोद महाजनांच्या भेटीला गेले होते. त्यांनी आपल्या कार्यकर्त्यांना अण्णांची उमेदवारी कापण्यासाठी “कानमंत्र’ दिला. हे कार्यकर्ते त्यावेळी गोव्यात पक्षाच्या बैठकीसाठी आलेले लालकृष्ण आडवाणी यांच्या भेटीसाठी गेले. “प्रदीप रावत यांची उमेदवारी जाहीर होईपर्यंत आम्ही तुमच्या समोरून उठणारच नाही’ असा प्रेमळ दम या कार्यकर्त्यांनी दिल्यामुळे आडवाणी यांनी पक्षाच्या निवडणूक मंडळाला अण्णा जोशींची
उमेदवारी रद्द करायला लावली आणि प्रदीप रावत यांना उमेदवार म्हणून घोषित केले गेले. त्यानंतर 2004 मध्येही अण्णांचा विचार झाला नाही. पक्षात बाजूला पडलेल्या अण्णांनी 2009 मध्ये राष्ट्रवादी कॉंग्रेसकडून कोथरूड विधानसभा मतदारसंघात निवडणूक लढवली. या निवडणुकीत ते अर्थातच पराभूत झाले.