Вы можете попробовать это ниже логики.Помните, это просто идея, как вы можете ограничить строку вставки для одного emp_id до 10 записей.
INSERT INTO employee(emp_id,Col1,Col2,Col3)
SELECT * FROM
(
SELECT @emp_id,@Col1,@Col2,@Col3
-- Values are parameter value passed to the stored procedure
) A
WHERE 10 > (
SELECT COUNT(*)
FROM employee
WHERE pub_id = @pubId
AND emp_id = @emp_id
-- If I guess correct, You need 10 same emp_id per pub_id
-- If requirement is different, you can adjust your logic here
-- like you can remove the filter AND emp_id = @emp_id
-- This will consider any 10 records for the pub_id
)