如果你的弟弟在职高不想继续学业，需要按照一定的程序办理退学手续。以下是办理退学的基本步骤：
填写《退学申请表》
明确退学原因。
学生本人和家长都需要签字确认。
班主任审核
班主任填写意见并签字确认。
分院（部）审核
填写《学生学籍处理意见表》，签字盖章。
教务处审核
填写意见，签章。
院长会议研究决定
主管院长签字批准。
办理离校手续
学生领取《学生离校清单》。
学校下文件
文件送交本人，并报告省教育厅备案。
结算相关费用
包括但不限于学费、住宿费等，由总务处签名确认。
学籍处理
一般情况下，辍学的学生会被取消学籍档案。
请注意，这些步骤可能因学校具体规定而有所不同。建议与学校相关部门沟通，了解详细的退学流程和注意事项。
