Noch während die letzten Yak-40 die Produktionshallen verließen, arbeitete das OKB Jakowlew an ein Nachfolgemuster.
Anfangs noch mit 11° gepfeilten Tragflächen, ging das Konstruktionsbüro schnell davon ab und es wurde klar, dass es sich bei der Yak-42 um eine völlig neue Konstruktion handelte.
Angetrieben mit drei Iwtschenko Progress D-36-Mantelstromtriebwerke ohne Schubumkehr führte man am 7.3.1975 den Erstflug durch.
Die Yak-42 war um 16,02m länger als ihr Vorgängermodell und konnte daher bis zu 126 Passagiere aufnehmen. Des Weiteren hatte sie noch ein zweirädriges Hauptfahrwerk und auf der linken Seite eine tiefer gelegene Einstiegstür um eventuelle Notausstiege ohne Hilfsmittel durchführen zu können.  Diese wurde jedoch bei den Serienmaschinen zugunsten einer „normalen“ Einstiegstür ausgetauscht. Der dritte Prototyp besaß schon eine Tragflächenpfeilung von 23° und ein vierrädriges Hauptfahrwerk.
Insgesamt wurden fünf Prototypen gebaut, einschließlich Bruchzellen, bevor man 1978 die Serienproduktion in Saratow aufnahm.  
Ab 1980 erfolgte die Indienststellung bei Aeroflot.
Am 28.6.1982 kam es zu einem Absturz, wo 132 Tote zu beklagen waren. Daraufhin wurde ein Startverbot verhängt um die Unfallursache zu untersuchen.
Es kam heraus, dass die Verstellspindel für die trimmbare Höhenflosse unterdimensioniert war, was umfangreiche Modifikationen an alle Maschinen nach sich zog.
Anfang 1984 konnten die Flugzeuge wieder eingesetzt werden. 1990 wurde das Flugzeug weiterentwickelt und hatte anschließend eine höhere Zuladung, sowie eine Reichweitensteigerung von 2790 km auf 4000 km. Weiterhin wurden die Triebwerke überarbeitet, was ihr die neue Bezeichnung Yak-42D einbrachte.
Im Jahr 2003 endete die Produktion nach 187 gebauten Exemplaren.
Die russische Izhavia setzte bis 2021 als letzte Fluglinie die Yak-42 auf Linienflügen ein.