Это должно помочь:
# example data
dt = data.frame(A = c("1,ab", "1,x,df"),
B = c("2,ab", "1,df,x"),
stringsAsFactors = F)
# vectorised function to check matches
ff = function(x,y) as.numeric(identical(sort(unlist(strsplit(x,","))),
sort(unlist(strsplit(y,",")))))
ff = Vectorize(ff)
# apply function
dt$Result = ff(dt$A, dt$B)
dt
# A B Result
# 1 1,ab 2,ab 0
# 2 1,x,df 1,df,x 1
Если после запятых может быть несколько пробелов, вы можете использовать функцию trimws
, например, sort(trimws(unlist(strsplit(x,","))))
в указанной выше функции.