كان بن يحيى، طالبا في كلية الحقوق بالرباط عندما اشتدت الأزمة بين نظام الحسن الثاني والاتحاد الوطني للقوات الشعبية في منتصف الستينات، فقرر ابن شتوكة آيت بها فجأة السفر إلى الجزائر لمتابعة دراسته هناك في مادة الفلسفة، لكنه في الواقع كان قد التحق بخلية شبه عسكرية، شكلها الفقيه البصري، مستفيدا من عداوة الرئيس الجزائري بن بلة لنظام الحسن الثاني. وفي الوقت الذي وقعت فيه محاكمة مراكش الكبرى إثر اعتقال عدد من الاتحاديين الذي اتهموا بالتآمر، ورد اسم بن يحيى ضمن قائمة المطلوبين، وصدر في حقه حكم بالسجن 10 سنوات غيابيا، لكنه كان حينها يتدرب على السلاح في معسكرات جزائرية ضمن خطة لقلب النظام في المغرب، ومع ذلك فإنه لم يتورط بشكل مباشر في أية عمليات ضد المغرب، وإن كانت المجموعة العسكرية الاتحادية التي تسربت عبر التراب الجزائري ونفذت عمليات في المغرب سنة 1973 تنتمي إلى نفس المجموعة التي تدرب فيها بن يحيى. وكان بن يحيى من محرري البيان الذي أعقب تلك العمليات والذي جاء فيه إن «الجيش الوطني للتحرير» الذي نفذ العملية لا علاقة له بالاتحاد الوطني للقوات الشعبية. استفاد بن يحيى أيضا من تدريبات على السلاح في سوريا، وشارك إلى جانب المقاومة الفلسطينية في عمليات ضد إسرائيل في جنوب لبنان في منتصف السبعينات، وربما كان هذا أحد أسباب جعله أحد المطلوبين للسلطات المغربية التي رأت فيه خطرا قد يهددها إذا عاد إلى المغرب. ولذلك كان الحسن الثاني يحرص على تطبيع علاقاته مع الجزائر من أجل كسر شوكة خلية البصري، ونجح في ذلك في بداية تولي الرئيس بومدين للسلطة، حيث تم اعتقال عدد من الاتحاديين في الجزائر، وقد لعب بن يحيى دور الوسيط بين الفقيه البصري والسلطات الجزائرية من أجل إطلاق سراح المعتقلين. عاش بن يحيى مغتربا لسنوات طويلة، فبعد سنوات قضاها في الجزائر مسؤولا عن الاتحاد الوطني لطلبة المغرب، وعضوا فاعلا في الاتحاد، انتقل إلى فرنسا وعمل في إذاعة المنفيين في ليبيا، ثم في راديو فرانس أنتير، ووكالة الأنباء الفرنسية، وساهم في تشكيل العمل الاتحادي في أوربا الغربية، وسعى إلى ربط علاقات مع الأحزاب الاشتراكية في أوربا، وأيضا مع الأحزاب العربية. بعد انقلابي الصخيرات سنة 1971 و1972، أصدر الحسن الثاني عفوا عن الاتحاديين الذي أدينوا في محاكمة مراكش، ومنهم بن يحيى، وفي سنة 1980 أصدر عفوا عن المحكومين غيابيا من الاتحاديين ومنهم عبد الرحمان اليوسفي، فكان بن يحيى من العائدين من الاغتراب سنة 1981، وتزامنت عودته مع منع السلطات لجريدة «المحرر» و«ليبراسيون» الناطقتين باسم الاتحاد الاشتراكي، واعتقال كل من محمد اليازيغ ومحمد القرشاوي، فأنشأ جريدة أسبوعية مستقلة سماها «البلاغ المغربي»، التي كانت بمثابة متنفس للاتحاد ، وكان من الصحافيين العاملين معه آنذاك محمد الأشعري، وإدريس الخوري وعبد اللطيف جبرو.. واستمرت هذه الجريدة في الصدور إلى سنة 1985. في سنة 1998، جاءت تجربة التناوب، فاستدعى عبد الرحمان اليوسفي صديقه في الاغتراب محمد بن يحيى ليعمل معه في ديوان الوزارة الأولى بمثابة مستشار إعلامي، وكان يوصف بأنه كاتم أسرار اليوسفي. وفي انتخابات 2002 نجح بن يحيى في الفوز بمقعد برلماني، لكنه لم يوفق في الانتخابات التي جريت في 2007، لكنه بقي في صلب انشغالات الحزب، مساهما في النقاشات التي دارت حول أسباب الأزمة التي عرفها الحزب، وداعيا إلى حلها بعقلانية، مع اعتماد الديمقراطية، وربما كانت مواقفه المعتدلة، وعدم دخوله في المهاترات الكلامية، أحد أهم الأسباب التي جعلته يحظى بثقة الاتحاديين في اختياره على رأس اللجنة التحضيرية للمؤتمر الثامن للاتحاد الاشتراكي، ورغم فشل الجولة الأولى من المؤتمر فقد بقي بن يحيى متشبثا بالأمل في نجاح المؤتمر في جولته الثانية، إلا أنه بعد ايام من تأجيل المؤتمر اشتد به المرض، فنقل إلى فرنسا، حيث أجريت له عملية استئصال ورم خبيث، لكنه دخل في غيبوبة قبل أن يسلم الروح إلى بارئها عن عمر يناهز 69 عاما، دون أن يكتب له حضور الجولة الثانية من المؤتمر الثامن.