要留在外管局。

因为在办理延签的过程中，外管局需要对留学生的身份和资格进行审核，所以需要留下护照作为审核的依据。

同时，延签的时间也需要一定的周期，留下护照也是为了保证签证延期的顺利进行。

值得注意的是，在留下护照的同时，外管局也会发放一份临时通行证明，这样留学生可以在护照留在外管局期间仍然可以正常生活和学习。