לאחר שחרורו מהצבא הצטרף כהן למפ"ם וריכז את הדור הצעיר של המפלגה באזור החיפה והצפון. ב-1968 פרש ממנה והקים את שי"ח - שמאל ישראלי חדש. התנועה נלחמה למען כינון שלום עם הפלסטינים.
ב-1973 היה בין מקימי "מוקד", שנכנסה לכנסת.
ב-1977 היה ממקימי "של"י", שאיחדה מספר תנועות וביניהן "מוקד". של"י התאחדה מאוחר יותר עם רצ.