डीएनए (DNA) के सबूत बताते हैं कि लगभग सभी कवक के एक ही सामान्य पूर्वज थे। सबसे पहला कवक लगभग 600 मिलियन साल या उससे भी पहले विकसित हुआ होगा। वे शायद एक कशाभिका के साथ जलीय जीव थे। कवक ने पहली बार कम से कम 460 मिलियन साल पहले, पौधों के समान समय के आसपास ही भूमि का उपनिवेश किया। स्थलीय कवक के जीवाश्म लगभग 400 मिलियन वर्ष पहले के हैं (नीचे चित्र देखें)। लगभग 250 मिलियन वर्ष पहले, जीवाश्म अभिलेख से पता चलता है कि कई जगहों पर कवक प्रचुर मात्रा में थे और ऐसा माना जाता है कि उनका उस समय पृथ्वी पर प्रबल अस्तित्व रहा होगा। कवक के बारे में और जानने के लिए कवक विज्ञान (एक अपेक्षाकृत नया विज्ञान) को 17वीं शताब्दी में सूक्ष्मदर्शी के विकास के बाद व्यवस्थित किया गया। हालांकि फफूंद बीजाणुओं को पहली बार 1588 में गिआंबटिस्टा डेला पोर्टा (Giambattista della Porta) द्वारा देखा गया था, कवक विज्ञान के विकास में प्राथमिक कार्य 1729 में पियर एंटोनियो मिचली (Pier Antonio Micheli) का नोवा प्लांटरम जेनेरा (Nova Plantarum Genera) का प्रकाशन माना जाता है। मिचली ने न केवल बीजाणुओं का अवलोकन किया, बल्कि यह भी दिखाया कि, उचित परिस्थितियों में, उन्हें कवक की उन्हीं प्रजातियों में विकसित होने के लिए प्रेरित किया जा सकता है, जिनसे वे उत्पन्न हुए थे।
कार्ल लिनिअस (Carl Linnaeus) द्वारा प्लांटरम (1753) प्रजाति में पेश की गई नामावली की द्विपद प्रणाली के उपयोग का विस्तार करते हुए, क्रिश्चियन हेंड्रिक पर्सून(Christiaan Hendrik Persoon) (1761-1836) ने इस तरह के कौशल के रूप में मशरूम का पहला वर्गीकरण स्थापित किया, जिसे आधुनिक कवक विज्ञान का संस्थापक माना जाता है। बाद में, एलियास मैग्नस फ्राइज़ (Elias Magnus Fries) (1794-1878) ने वर्तमान समय में भी वैज्ञानिको द्वारा उपयोग किए जाने वाले तरीके का उपयोग करके कवक के रंग और सूक्ष्म विशेषताओं का उपयोग करते हुए कवक के वर्गीकरण को और विस्तृत किया।
कवक को 20वीं शताब्दी के मध्य तक पौधों की जाति (उप प्रजाति क्रिप्टोगैमिया (Cryptogamia)) का हिस्सा माना जाता था। उन्हें चार वर्गों में विभाजित किया गया था: फ्योमाइक्सेस(Phycomycetes), एस्कॉमीकेट्स(Ascomycetes), बेसिडिओमाइसेट्स(Basidiomycetes) और ड्यूटेरोमाइसेट्स(Deuteromycetes)। वहीं 20वीं शताब्दी के मध्य में कवक को एक अलग प्रजाति के रूप में वर्गीकृत किया गया, नव मान्यता प्राप्त कवक की प्रजाति, प्लांटे और एनीमेलिया के साथ बहुकोशिकीय यूकेरियोट्स की तीसरी प्रमुख प्रजाति बन गई, इन प्रजाति के बीच विशिष्ट विशेषता यह है कि वे स्वयं से पोषण प्राप्त करते हैं। वहीं 20वीं शताब्दी में जैव-रसायन विज्ञान, आनुवांशिकी, आणविक जीव विज्ञान और जैव-प्रौद्योगिकी में प्रगति से आने वाले मायकोलॉजी का आधुनिकीकरण देखा गया है। डीएनए अनुक्रमण तकनीकों और फ़ाइलोजेनेटिक विश्लेषण के उपयोग ने कवक संबंधों और जैव विविधता में नई अंतर्दृष्टि प्रदान की है, और कवक वर्गीकरण में पारंपरिक आकारिकी-आधारित समूहों को चुनौती दी है। पौधों और जानवरों के विपरीत, कवक का प्रारंभिक जीवाश्म आलेख बहुत कम है। जीवाश्मों के बीच कवक प्रजातियों के कम प्रतिनिधित्व में योगदान करने वाले कारकों में कवक फल देने वाले निकायों की प्रकृति शामिल है, जो स्पष्ट नहीं है। कवक के जीवाश्मों को अन्य रोगाणुओं से अलग करना मुश्किल होता है और जब वे अतिरिक्त कवक के समान होते हैं, तब उन्हें सबसे आसानी से पहचाना जाता है।
मई 2019 में, वैज्ञानिकों ने कनाडाई आर्कटिक में औरस्फेरा गिरलडाय(Ourasphaira Giraldae) नामक एक जीवाश्म कवक की खोज की, जो कवक की लगभग एक अरब वर्ष पहले की ज्ञात उपस्थिति को दर्शाता है। साथ ही यह माना गया कि बहुत पहले कैंब्रियन (Cambrian) (542-488.3 मिलियन वर्ष पूर्व) के दौरान कवक ने पौधों से भी पहले भूमि का उपनिवेश किया था। विस्कॉन्सिन(Wisconsin) से मिले ऑर्डोवियन (Ordovician)(460 मिलियन वर्ष पूर्व) काल के जीवाश्म हाइफा और बीजाणु आधुनिक-दिन के ग्लोमेरल से मिलते-जुलते हैं और ऐसे समय में अस्तित्व में आए जब गैर-संवहनी ब्रायोफाइट जैसे पौधे मौजूद हुआ करते थे।