طارمی در باشگاههای شاهین بوشهر و ایرانجوان بوشهر دوران حرفهای خود را شروع کرد و سپس از سال ۱۳۹۳ تا ۱۳۹۷ برای باشگاه پرسپولیس بازی کرد. او در پرسپولیس در دو فصل ۹۵–۱۳۹۴ و ۹۶–۱۳۹۵ آقای گل لیگ برتر ایران شد و در فصل ۹۶–۱۳۹۵ بهترین بازیکن لیگ برتر ایران نیز شناخته شد. او در ادامه با انتقال به باشگاههای الغرافه قطر و ریو آوه پرتغال، برای هرکدام یک فصل بازی کرد و به ریو آوه در جریان فصل ۲۰–۲۰۱۹ لیگ برتر پرتغال پیوست. طارمی پس از آن به پورتو رفت و در فصل ۲۲–۲۰۲۱ پرتغال دو جام داخلی را کسب کرد. او موفقیت خود را در فصل ۲۳–۲۰۲۲ به عنوان بهترین گلزن لیگ برتر پرتغال و نیز کسب جام اتحادیه و جام حذفی پرتغال ادامه داد.
طارمی از سال ۱۳۹۴ سابقهٔ بازی در تیم ملی فوتبال ایران را دارد. او در جام ملتهای آسیا ۲۰۱۹، جام جهانی ۲۰۱۸ و جام جهانی ۲۰۲۲ در ترکیب اصلی ایران حضور داشت
مهدی طارمی در محلهای ساده در بوشهر به دنیا آمد و در همانجا نیز بزرگ شد. پدرش، علیرضا طارمی، از چهرههای شناختهشده فوتبال بوشهر بود و همین موضوع باعث شد تا علاقهاش به فوتبال از کودکی شکل بگیرد. طارمی از همان سنین پایین، در کوچهها و زمینهای خاکی محلهشان فوتبال بازی میکرد و خیلی زود استعدادش را نشان داد. او تحصیلات ابتداییاش را در یکی از مدارس دولتی بوشهر گذراند و در دوران نوجوانی به تیم جوانان شاهین بوشهر پیوست. حضور در این تیم، سکوی پرتابی برای ورودش به فوتبال حرفهای بود. بعدها با پیوستن به تیم بزرگسالان شاهین و سپس ایرانجوان بوشهر، نخستین گامهایش را در لیگهای رسمی برداشت و خیلی زود توجه باشگاههای بزرگتر از جمله پرسپولیس را جلب کرد