No verão de 1983, apenas dois meses após o guitarrista Dave Mustaine ser expulso dos Metallica devido a problemas com drogas, comportamentos violentos e conflitos entre os membros da banda, Mustaine, David Ellefson, Greg Handevidt e Dijon Carruthers criaram os Megadeth.
No início de 1984, os Megadeth gravaram três demos, apresentando Mustaine, Ellefson, e Rausch, que continham as músicas Last Rites/Loved to Death, Skull Beneath the Skin, e Mechanix. Após alguns concertos, Lee Rausch foi substituído pelo baterista Gar Samuelson.
Os Megadeth assinaram um contracto com a Combat Records, e em Dezembro adicionaram Chris Poland, como segundo guitarrista. Com Poland, Mustaine, Samuelson e Ellefson a tocar, os Megadeth lançaram em 1985 o primeiro e excelente Killing Is My Business... And Business Is Good, com uma grande recepção do público e da comunicação social.
Após lançarem Peace Sells... But Whos Buying em 1986, Chris Polland e Gar Samuelson foram despedidos da banda por Mustaine, sendo substituídos pelo guitarrista Jeff Young e pelo baterista Chuck Behler. Esta formação lançou um novo álbum intitulado So Far, So Good... So What! com destaque para a música In my Darkest Hour, que foi por 3 meses a mais tocada nas rádios americanas.
Infelizmente naquela época o relacionamento de Mustaine com os membros do grupo não era muito bom, sofria de dependência de drogas, e foi preso algumas vezes por isso, tendo de ser internado numa clínica de reabilitação.
Poucos meses depois Mustaine dizia-se um novo homem e reformulou a banda (outra vez) que era composta pelo guitarrista Marty Friedman e o baterista Nick Menza. Esta formação lançou o álbum Rust In Peace, um sucesso de vendas no mundo inteiro, e por várias semanas esteve entre os TOP 10 dos Estados Unidos. Este álbum é considerado um clássico do thrash metal, e há quem o aponte, ao lado de Master Of Puppets dos Metallica, como o melhor de toda história deste estilo.
Em 1992, lançaram Countdown To Extinction, também um grande sucesso comercial. O destaque vai para a música Symphony of Destruction, que é uma das mais, se não a mais, conhecida do público.
Youthanasia, lançado em 1994, manteve o bom nível do álbum anterior, e a música A tout le monde foi por quase um ano, a mais tocada nas rádios dos Estados Unidos. No mesmo ano, Dave acabou com os conflitos que mantinha com James Hetfield e os Metallica tocaram com os Megadeth várias vezes.
Em meados dos anos 90, foi tentada uma reunião com a formação quase original dos Metallica, com James Hetfield no vocal, Dave Mustaine na guitarra, Lars na bateria e o lugar de Cliff Burton seria ocupado por David Ellefson. Mas os contactos entre os empresários não deram certo.
No ano de 95 lançaram o álbum Hidden Treasures, que agradou o público mas a comunicação social não deu muita atenção. Em 1997, os Megadeth lançaram Cryptic Writings, um álbum de volta às origens com músicas que lembram toda a carreira da banda: She-Wolf, Trust, Secret Place, Vortex, FFF, Almost Honest, The Desintegrators. Nesse mesmo ano Nick Menza saiu da banda, os motivos são desconhecidos, o seu substituto foi Jimmy DeGrasso.
Em 1999, a banda lançou o polémico álbum Risk, que continha músicas semi-eletrónicas. Este álbum desiludiu muitos fãs da banda e foi um fracasso crítico e comercial. Destaque para a música Crush' Em, em que foi tema do filme Soldado Universal. Mustaine previa que o álbum Risk seria o último do guitarrista Marty Friedman, até hoje não se sabe ao certo o motivo da sua saída. A versão oficial, é que ele não queria tocar em nenhuma banda, e sim criar uma longa carreira solo. Para o seu lugar foi eleito Al Pitrelli, ex-guitarrista da banda Savatage.
No ano de 2001, a banda lançou o polémico álbum The World Needs a Hero. Este, teve uma muito boa aceitação, uma curiosidade é que a banda foi barrada ao entrar na Malásia para fazer um concerto. O motivo foi que a banda causa má conduta e deixa os jovens visivelmente modificados.
No dia 3 de Abril de 2002, Dave Mustaine decide encerrar temporariamente os Megadeth por problemas num nervo de um braço. Naquela época, ele teve várias discuções com David Ellefson, houve muitos conflitos inclusice judiciais. Mas, no meio de tantas confusões Mustaine relança o álbum Killing Is My Business... And Business Is Good!, com novas faixas.
Estavamos em 2004, e todos pensavam que a banda ia encerrar definitivamente as suas actividades. Mas Dave Mustaine conseguiu recuperar do seu problema no nervo e anuncia o reinício da banda.
Na metade do ano 2004, os Megadeth lançam o álbum The System Has Failed. Para alguns o segundo melhor da história do grupo, onde se ataques ao actual governo americano. Chris Poland (guitarra), Vinnie Colaiuta (bateria) e Jimmy Lee Sloas (baixo) completaram a banda.
Após as vendas do novo álbum serem melhores de que o esperado, Mustaine anuncia uma tour pelo mundo inteiro. Chama o guitarrista Glen Drover e o seu irmão Shawn Drover para a bateria. O baixista foi James MacDonough.
Em Fevereiro de 2006, o então baixista MacDonough foi despedido por Mustaine. Boatos na internet sugeriram a volta de David Ellefson, que fez as pazes com Dave um mês antes. Todos queriam isto menos ele. Chamou o baixista James LoMenzo.
Ainda em 2006 a banda lançou o novo DVD intitulado Arsenal of Megadeth.
2007 foi um grande ano para a banda norte-americana. Em Março, a banda lançou um DVD intitulado That One Night, Live in Argentina. United Abominations, o mais novo álbum de estúdio, saiu em Maio e desponta como o retorno da banda às suas raízes.
Recentemente, a banda lançou uma nova coletânea, intitulada
Megadeth Warchest
na qual traz 4 CD's com grandes músicas da banda, incluíndo algumas inéditas, e ainda um DVD.
No dia 14 de Janeiro de 2008, Mustaine anunciou oficialmente a saída de Glen Drover por motivos particulares. O escolhido para substituir Glen foi o ex-guitarrista do Nevermore, Chris Broderick.
