Scala beginners-самый простой способ подсчета слов в файле
Я пытаюсь самым простым способом закодировать программу для подсчета слов в файле на языке Scala. До сих пор у меня есть этот кусок кода:
import scala.io.Codec.string2codec
import scala.io.Source
import scala.reflect.io.File
object WordCounter {
val SrcDestination: String = ".." + File.separator + "file.txt"
val Word = "b([A-Za-z-])+b".r
def main(args: Array[String]): Unit = {
val counter = Source.fromFile(SrcDestination)("UTF-8")
.getLines
.map(l => Word.findAllIn(l.toLowerCase()).toSeq)
.toStream
.groupBy(identity)
.mapValues(_.length)
println(counter)
}
}
Не беспокойтесь о выражении regexp. Я хотел бы знать, как извлечь отдельные слова из последовательность, полученная в этой строке:
map(l => Word.findAllIn(l.toLowerCase()).toSeq)
для того, чтобы получить каждое слово occurency подсчитано. В настоящее время я получаю карту с подсчитанными последовательностями слов.
4 ответов
вы можете превратить строки файла в слова, разделив их с помощью regex "\W+"
(flatmap
ленив, поэтому не нужно загружать весь файл в память). Для подсчета вхождений вы можете сложить над Map[String, Int]
обновление его с каждым словом (гораздо больше памяти и времени, чем с помощью groupBy
)
scala.io.Source.fromFile("file.txt")
.getLines
.flatMap(_.split("\W+"))
.foldLeft(Map.empty[String, Int]){
(count, word) => count + (word -> (count.getOrElse(word, 0) + 1))
}
Я думаю, что следующее немного легче понять:
Source.fromFile("file.txt").
getLines().
flatMap(_.split("\W+")).
toList.
groupBy((word: String) => word).
mapValues(_.length)
я не на 100% уверен, что вы спрашиваете, но я думаю, что вижу проблему. Попробуйте использовать flatMap
вместо map
:
flatMap(l => Word.findAllIn(l.toLowerCase()).toSeq)
это объединит все ваши последовательности вместе, так что groupBy
выполняется на отдельных словах, а не на уровне строки.
примечание о вашем Regex
Я знаю, что вы сказали не беспокоиться о вашем регулярном выражении, но вот несколько изменений, которые вы можете сделать, чтобы сделать его немного более читаемым. Вот что вы сейчас:
val Word = "\b([A-Za-z\-])+\b".r
во-первых, вы можете использовать строки с тройными кавычками Scala, поэтому вам не нужно избегать обратных косых черт:
val Word = """\b([A-Za-z\-])+\b""".r
во-вторых, если поставить -
на начало вашего класса символов, то вам не нужно, чтобы избежать его:
val Word = """\b([-A-Za-z])+\b""".r
вот что я сделал. Это разрубит файл. Hashmap-хорошая ставка для высокой производительности и будет превосходить любой вид. Там есть более лаконичная функция сортировки и среза, на которую вы также можете посмотреть.
import java.io.FileNotFoundException
/**.
* Cohesive static method object for file handling.
*/
object WordCountFileHandler {
val FILE_FORMAT = "utf-8"
/**
* Take input from file. Split on spaces.
* @param fileLocationAndName string location of file
* @return option of string iterator
*/
def apply (fileLocationAndName: String) : Option[Iterator[String]] = {
apply (fileLocationAndName, " ")
}
/**
* Split on separator parameter.
* Speculative generality :P
* @param fileLocationAndName string location of file
* @param wordSeperator split on this string
* @return
*/
def apply (fileLocationAndName: String, wordSeperator: String): Option[Iterator[String]] = {
try{
val words = scala.io.Source.fromFile(fileLocationAndName).getLines() //scala io.Source is a bit hackey. No need to close file.
//Get rid of anything funky... need the double space removal for files like the README.md...
val wordList = words.reduceLeft(_ + wordSeperator + _).replaceAll("[^a-zA-Z\s]", "").replaceAll(" ", "").split(wordSeperator)
//wordList.foreach(println(_))
wordList.length match {
case 0 => return None
case _ => return Some(wordList.toIterator)
}
} catch {
case _:FileNotFoundException => println("file not found: " + fileLocationAndName); return None
case e:Exception => println("Unknown exception occurred during file handling: \n\n" + e.getStackTrace); return None
}
}
}
import collection.mutable
/**
* Static method object.
* Takes a processed map and spits out the needed info
* While a small performance hit is made in not doing this during the word list analysis,
* this does demonstrate cohesion and open/closed much better.
* author: jason goodwin
*/
object WordMapAnalyzer {
/**
* get input size
* @param input
* @return
*/
def getNumberOfWords(input: mutable.Map[String, Int]): Int = {
input.size
}
/**
* Should be fairly logarithmic given merge sort performance is generally about O(6nlog2n + 6n).
* See below for more performant method.
* @param input
* @return
*/
def getTopCWordsDeclarative(input: mutable.HashMap[String, Int], c: Int): Map[String, Int] = {
val sortedInput = input.toList.sortWith(_._2 > _._2)
sortedInput.take(c).toMap
}
/**
* Imperative style is used here for much better performance relative to the above.
* Growth can be reasoned at linear growth on random input.
* Probably upper bounded around O(3n + nc) in worst case (ie a sorted input from small to high).
* @param input
* @param c
* @return
*/
def getTopCWordsImperative(input: mutable.Map[String, Int], c: Int): mutable.Map[String, Int] = {
var bottomElement: (String, Int) = ("", 0)
val topList = mutable.HashMap[String, Int]()
for (x <- input) {
if (x._2 >= bottomElement._2 && topList.size == c ){
topList -= (bottomElement._1)
topList +=((x._1, x._2))
bottomElement = topList.toList.minBy(_._2)
} else if (topList.size < c ){
topList +=((x._1, x._2))
bottomElement = topList.toList.minBy(_._2)
}
}
//println("Size: " + topList.size)
topList.asInstanceOf[mutable.Map[String, Int]]
}
}
object WordMapCountCalculator {
/**
* Take a list and return a map keyed by words with a count as the value.
* @param wordList List[String] to be analysed
* @return HashMap[String, Int] with word as key and count as pair.
* */
def apply (wordList: Iterator[String]): mutable.Map[String, Int] = {
wordList.foldLeft(new mutable.HashMap[String, Int])((word, count) => {
word get(count) match{
case Some(x) => word += (count -> (x+1)) //if in map already, increment count
case None => word += (count -> 1) //otherwise, set to 1
}
}).asInstanceOf[mutable.Map[String, Int]]
}