Если ваш HTML может иметь несколько элементов, имеющих этот атрибут, или атрибут находится во вложенном элементе, то действуйте так:
var htmlBlock = '<div data-user-mode="CURRENT_MODE_USER" data-user-mode-key="b577ghf"></div>';
var $matches = $("<div>").append(htmlBlock).find("[data-user-mode=CURRENT_MODE_USER]");
var values = $.map($matches, function(elem) {
return $(elem).attr("data-user-mode-key");
});
if (values.length) {
// Uncomment if you need to put this array as string in an input box
// $("input#indexMode").val(values);
console.log("matching", values);
}
<script src="https://cdnjs.cloudflare.com/ajax/libs/jquery/3.3.1/jquery.min.js"></script>