在冯雪峰来到上海一个多月，周扬他们才从别人那里风闻延安派来要员。他们通过各种渠道打听，得知来人乃是冯雪峰。周扬他们求见冯雪峰，冯雪峰终于答应。不过，彼此的关系仍处于紧张状态。
这时，胡乔木也与冯雪峰见了面。冯雪峰要求中共江苏临委暂停发展党员工作，必须纯洁党的组织。对于已经入党的党员，要做重新审查的工作。
在派出冯雪峰之际，中共中央又派出刘少奇前往天津，主持中共中央北方局工作，大力纠正“左”倾关门主义错误。北方局派人来沪，带来了北方局组织部长林枫、刘少奇的秘书的信，跟胡乔木取得了联系。不久，带来了刘少奇的文章、北方局的文件。这样，中共江苏临委总算结束了孤军作战的年月。
然而，中共江苏临委的一位委员，被国民党特务盯上了。这个委员与某女子相好，落入国民党特务手中。
特务们在跟踪这个委员的过程中，发现了中共江苏临委书记邓洁。于是，邓洁也被捕了。
中共江苏临委不得不迅速改组，由李凡夫担任书记。
胡乔木仍为临委成员，但他隐蔽起来，原本他住在福煦路(今金陵西路)福煦里，此时赶紧转移。
于是，上海新闸路的培明中学，来了一位新的教师。校长是盐城人，新教师是校长的同乡。新教师教英语课，看来还颇为在行。此人便是胡乔木。据估计，国民党特务可能会盯上他，党组织叮嘱他在外边少露面。正因为这样，诸如在上海闹得沸沸扬扬的营救“七君子”运动，胡乔木也没有参与。
终于，胡乔木接到冯雪峰的通知，要他离开上海，和李凡夫一起，前往延安。
据1992年10月3日新华社电讯《胡乔木同志生平》载：“胡乔木同志于1937年7月到达延安。”据方铭回忆，胡乔木离沪，是在1937年3、4月间，不是7月。胡乔木离沪时，方铭去送行，记得他穿一件夹大衣。考虑到上海北站的特务多，胡乔木和李凡夫特地前往上海远郊火车站——真如站上车。
据说，李凡夫后来曾笑谓胡乔木，临行前，冯雪峰曾叮嘱，一路上要“监视”胡乔木。
李凡夫的话，倒也不假。虽说在解放后，冯雪峰跟胡乔木关系很不错，不过，那时冯雪峰对胡乔木确实有着戒心，如同那时冯雪峰对待周扬他们不信任一样。
在胡乔木之前，邓洁获释出狱，先去了延安。
胡乔木从上海来到延安，是他一生中重要的一步。